Если в 90-х сюжет «Терминатора» казался таким же далеким от реальности произведением, как и «Кошмар на улице Вязов», то сейчас технологическая антиутопия стала серьезной темой для обсуждения. Создатели ИИ далеко продвинулись в «очеловечивании» компьютерного разума. Так, в 2015 году двое ученых из России и Украины представили робота по имени Евгений Густман, который впервые прошел тест Тьюринга.

Тест Алана Тьюринга определяет, может ли машина мыслить. Во время тестирования испытуемый общается с компьютером и человеком. Он не знает, кто где: это нужно определить самому, на основании ответов. Так вот, Евгений Густман обвел вокруг пальца больше половины своих собеседников, заставив думать, что они говорили с человеком.

И если двое разработчиков смогли обмануть целую толпу – что будет, если ИИ-технологиями вооружатся правительства, сделав их частью повседневной жизни?

По позитивным прогнозам – людям станет значительно легче жить, ведь роботы избавят общество от рутинной работы. Но есть и куда более мрачные предположения. Какой вред может нанести ИИ и как с этим справиться – далее в статье.

Безработица

Современная индустриальная экономика уже частично зависима от искусственного интеллекта, но долгожданная автоматизация рутинной работы может увеличить количество безработных.

К примеру, стабильное финансовое положение США зависит от потребительских кредитов. Их обслуживание выполняет ИИ – так, на его плечи легли проверки заявок на выпуск кредитных карт, выдачи разрешений на платежи и раскрытие мошеннических сделок. Благодаря этому оформление кредитов стало быстрым и более дешевым – процедуру, которую когда-то проводил целый штат сотрудников, теперь могут проводить пара человек и одна программа.

Как результат – сокращение рабочих мест. Английский ученый и футуролог Артур Ч. Кларк, известный по работе над фильмом «Космическая одиссея 2001» со Стэнли Кубриком, писал: «Люди столкнутся с будущим, заполненным необычайной скукой. Тогда главной проблемой в их жизни станет лишь выбор из нескольких сотен телевизионных каналов».

Но скука – не единственная проблема будущего. Аналитики консалтинговой компании McKinsey&Co в отчете за 2017 год обозначили, что с таким успехом к 2030 году роботы оставят без работы 800 млн человек.

Повышенный контроль со стороны государства

«Эквилибриум», «1984», «Бегущий в лабиринте», «Черное Зеркало» – произведения, подтверждающие страх людей оказаться «под лупой» государства. Теперь эти страхи выглядят вполне оправданными.

Например, к 2020 году в Китае планируют внедрить «Социальный рейтинг». По задумке, система со встроенным ИИ будет определять рейтинг гражданина, отслеживая его социальное поведение: на что он тратит деньги, регулярно ли оплачивает счета, дружелюбно ли общается с людьми. На этой оценке будет основано доверие к каждому гражданину Китая. Те, кто не достигнет нужного уровня – не смогут, например, покинуть страну или пользоваться определенными государственными услугами.

Но вмешательство искусственного интеллекта в повседневную жизнь может послужить и во благо. К примеру, в России камера с функцией распознавания лица обнаружила скрывавшегося несколько лет вора прямо в метро.

Ксенофобия

Несмотря на то, что скорость и качество обработки данных у ИИ значительно выше, чему у человека – ему не всегда можно доверять. Все-таки машинное обучение создают люди – а они иногда пренебрегают морально-этическими принципами во время разработки своих продуктов.

Даже программы от компании Google, лидера в использовании и разработке искусственного интеллекта, допускают ошибки. Так, к примеру, камера Google Photos ошибочно определяла людей азиатской внешности на фото как «моргающих».

В США искусственный интеллект используют в правоохранительной и судебной системе – и иногда из-за этого возникают скандалы. Так, программа Northpointe, анализирующая статистику преступлений и выдающая рекомендации, показала странную тенденцию в своей работе: по какой-то причине она считает, что чернокожие люди более склонны к преступлениям, чем белые. Сейчас баг программы уже починили. Но о том, почему расу вообще включили в список критериев, влияющих на уровень преступности – представители Northpointe умалчивают.

AI Moscow: Mogut li II i eticheskie normyi suschestvovat odnovremenno? 1

«Начни с себя»: обучение сотрудников толерантности при разработке ИИ

Не искусственный интеллект придумал расизм, не он увольняет людей с работы. Хотя многие компьютеры уже могут принимать решения, это всего лишь имитация, заложенная программистами. ИИ просто выбирает подходящий алгоритм на основании определенных заданных параметров.

Большой Брат – близкая и (в случае с Китаем) весьма вероятная перспектива, но она все-таки может остаться книжной выдумкой. Современные ученые, разработчики и предприниматели постоянно работают над тем, чтобы сделать искусственный интеллект безопасным для общества.

Быстрый прогресс искусственного интеллекта породил ряд инициатив, направленных на этику в воспитании ИИ. Среди них – OpenAI Илона Маска и Сэма Альтмана, альянс Partnership on AI, Центр исследования этики ИИ Университета Карнеги – Меллона, а также подразделение этики DeepMind. Они регулярно проводят саммиты, форумы и митапы среди специалистов, причастных к AI. Их цель – направить развитие технологии во благо, найти проблемные места и сформировать общие правила создания искусственного интеллекта.

Как ИИ постигнет дзен

Глобальная инициатива IEEE работает над документом Ethically Aligned Design с 2016 года. Это свод правил и рекомендаций по работе с ИИ. Чтобы дополнить документ не-западными системами ценностей, инициатива создала комитет по «классической этике», который изучает влияние философии буддизма и конфуцианства на работу искусственного интеллекта. Окончательная версия документа будет готова к концу 2019 года.

Как мы видим, поведение искусственного интеллекта – в руках разработчиков и предпринимателей, которые его создают.

Айзек Азимов, писатель-фантаст, разработавший знаменитые законы робототехники, писал: «Если искусственный интеллект запрограммируют на безразличие к людям – это приведет к катастрофе. Мы должны убедиться в безопасности ИИ, если хотим пережить его появление».


Узнайте о тонкостях разработки и использования этичного ИИ на AI Conference, которая состоится 22 ноября в Москве.

Зарегистрироваться на AI Conference