Меню
09.04.2019
москва
Человечество vs искусственный интеллект: реальна ли угроза? 21.01.2019
Человечество vs искусственный интеллект: реальна ли угроза?

Профессор Оксфордского университета Ник Бостром считает, что машинный сверхразум несет угрозу нашей цивилизации. Подобные опасения по поводу AI неоднократно высказывали и другие ученые, например Стивен Хокинг. При этом технологии искусственного интеллекта продолжают совершенствоваться и развиваться. Это значит, что преимущества машинного разума стоят того, чтобы рискнуть безопасностью человечества.

Добрые машины или зачем нам необходим искусственный интеллект

Искусственный интеллект подразумевает под собой способность машин мыслить и обучаться подобно человеку. Область исследований AI относительно молодая, ведь первые разработки в этом направлении начались только в 1956 году, но это не мешает технологиям искусственного интеллекта уже сейчас внедряться во все области деятельности человека. Это работа смартфонов и гаджетов, диагностика заболеваний, электронный документооборот, автомобилестроение и быт.

Развитие искусственного интеллекта призвано сделать жизнь людей более комфортной и удобной, а деятельность – эффективной. Такого мнения придерживается множество мировых ученых, футурологов и влиятельных людей. Например, CEO Facebook Марк Цукерберг считает, что «в ближайшие пять или десять лет искусственный интеллект будет делать жизнь только лучше».

AI-технологии уверенно внедряются в самые разные сферы деятельности человека, но из них можно выделить несколько основных, где машинный мозг используется наиболее результативно.

Диагностика. Искусственный интеллект помогает повысить уровень здравоохранения и скорость обслуживания пациентов. Сейчас врачи уже могут использовать систему от IBM под названием Watson Health, интеллектуального помощника в постановке диагноза DeepMind Health от Google. Кроме того, существуют такие системы, как Zebra Medical Vision для визуальной диагностики КТ и МРТ и приложения для пациентов наподобие Ada.

На основе сверточных нейронных сетей (CNN) австралийскими учеными разработана программа для выявления рака кожи. По результатам тестирований,система диагностирует меланому точнее, чем специалисты-дерматологи. Машинный мозг распознал злокачественные образования на коже в 95% случаев, а опытные врачи – в 88,9%. Таким образом, искусственный интеллект может существенно улучшить диагностику онкологии, от скорости лечения которой зависит жизнь человека.

В аналитической компании CCS Insight считают, что AI улучшит уровень оказания медицинских услуг и сделает лечение пациентов более эффективным уже в ближайшие пять лет.

Автоматизация рутинных процессов. Искусственный интеллект призван помогать человеку в быту и работе. Системы умного дома и персональные ассистенты наподобие Siri и Alexa упрощают ежедневную жизнь людей: смарт-хаус обеспечивает безопасность и автоматизацию жилища, умные помощники составляют расписание, производят поиск в Сети, систематизируют важную информацию.

С помощью AI-технологий торговая площадка Amazon предугадывает потребности клиентов, а Netflix подбирает список фильмов, которые могут понравиться пользователю. На технологиях машинного обучения основана автоматизация бизнес-процессов. Например, платформа Now Platform предупреждает простои у клиентов, оценивает эффективность IT, оптимизирует работу сервисной поддержки и занимается предсказательной аналитикой.

Оптимизация производства. По результатам исследований компании «Цифра»,промышленный рынок искусственного интеллекта в России составит $380 миллионов уже к 2021 году. Сейчас без технологий AI не обходится ни одно крупное производство.

Компьютерный мозг оптимизирует работу заводов, производит оценку качества, снижает затраты на производство. Методы машинного обучения применяются в авиастроении, создании автомобилей, приборостроении. Некоторые производства используют их лишь частично (основные решения принимает и оценивает человек), а, например, компания LG планирует в 2023 году открыть завод, где все процессы будет полностью контролировать искусственный интеллект.

Безопасность. Умные дома и умные города помогут человеку не только экономно потреблять ресурсы и оптимизировать бытовые процессы. Системы искусственного интеллекта адаптируются к привычкам человека, умеют распознавать лица и голоса, используют HD-камеры, аудиодатчики, чтобы обеспечивать безопасность.

AI способен самостоятельно оценивать ситуацию и вызывать службы экстренной помощи (при пожаре, взломе и других происшествиях). Умные технологии также помогают в идентификации личности, в частности при финансовых операциях.

Высокий уровень безопасности обеспечивается и в умных городах: системы распознавания лиц отслеживают мошенников, фиксируют правонарушения. Например, компания Hikvision, которая выпускает приборы для видеонаблюдения, использует технологии AI, чтобы повысить уровень безопасности в населенных пунктах.

AI Conference: Chelovechestvo vs iskusstvennyiy intellekt: realna li ugroza? 1

Чем опасен искусственный сверхразум для человечества

Применение искусственного интеллекта приносит очевидную пользу людям, но и ставит перед человеком ряд важных вопросов, а также вызывает оправданные опасения. Что, если технологии будут использоваться для обмана и мошеннической деятельности? Чем нам грозит создание сверхразумного компьютера?

В том, что искусственный интеллект несет угрозу человечеству, уверены философ Ник Бостром, физик Стивен Хокинг, магнат Билл Гейтс и инженер Илон Маск. Основные направления, которые вызывают обеспокоенность, относятся к организации труда, безопасности человека и защите личных данных.

Сокращение рабочих мест. Роботы и технологии AI помогают наладить работу на вредных и опасных объектах, где люди подвергаются риску травмироваться или погибнуть. Инновационные решения помогают заменить человека там, где нужно выполнять скучную, монотонную работу, связанную с подсчетами и аналитикой. Но это также приводит к сокращению рабочих мест и исчезновению некоторых профессий.

Согласно исследованиям McKinsey Global Institute, уже 5% специальностей в настоящее время могут быть полностью автоматизированы, а в дальнейшем роботы смогут выполнять функции уже 60% профессий. По подсчетам ученых, к 2030 году исчезнут 57 видов деятельности. К ним относятся: копирайтер, аналитик, библиотекарь, финансист, курьер, официант.

Тем не менее эксперты прогнозируют появление новых специальностей. Так, американская консалтинговая компания Cognizant Technology Solutions считает, что в ближайшие 10 лет появится 21 новая специальность, среди которых – дата-брокер, IT-посредник и персональный куратор памяти.

Неправильное использование технологий. Сейчас искусственный разум способен учиться и принимать решения, но вектор работы и конечная цель все равно задаются человеком. Соответственно, ничего не мешает отдельным людям и державам сделать искусственный интеллект мощным оружием и инструментом контроля. Так, в Китае правительство активно использует технологии AI и IoT для слежки за собственными гражданами, превратив государство в технологичную антиутопию.

Также отдельные личности могут применять искусственный интеллект во вред другим: это цифровые мошенники и хакеры. Специалист Центра по изучению экзистенциальных рисков при Кембриджском университете Шахар Авин выделяет несколько направлений, где AI могут применить во вред:

  • программы наподобие AlphaGo, которая обыграла человека в го, способны использовать хакеры, чтобы найти уязвимости кодировки;
  • специально запрограммированные умные боты могут производить фейковые новости и видео, чтобы манипулировать сознанием людей;
  • мошенники могут синтезировать речь, чтобы обойти системы идентификации по голосу.

Эти и другие подобные опасения относятся не к угрозе искусственного интеллекта как такового, а к вопросу о том, как контролировать использование новых технологий.

Восстание машин. Компьютер обыграл лучшего игрока в го еще в 2016-м, IBM Watson победил в интеллектуальной викторине Jeopardy, искусственный интеллект проводит диагностику рака точнее, чем человек. Значит ли это, что компьютерный мозг уже умнее нас, и чего стоит бояться? Философ Ник Бостром считает, что сверхразумный искусственный интеллект может попросту счесть людей помехой для достижения цели (например, сделать как можно больше скрепок в мире) и уничтожить человечество как мелкое препятствие.

Пока подобные предположения выглядят как фантастика из книг, поскольку искусственный интеллект как минимум недостаточно развит. Пока ни одна из интеллектуальных систем не превосходит человеческий мозг, а сами машины лишены человеческой мотивации и эмоций.

Чтобы максимально обезопасить мир от потенциальных угроз, которые несет искусственный интеллект, разрабатываются этические принципы создания AI и формулируются правила безопасного использования новых технологий.

23 принципа безопасного развития искусственного интеллекта

На конференции Beneficial AIеще в 2017 году был презентован список правил Asilomar AI Principles, согласно которым необходимо использовать искусственный интеллект. В создании правил принимали участие физики, робототехники, IT-специалисты, разработчики и ученые, среди подписавших свод принципов значатся Илон Маск и Стивен Хокинг.

В документе прописаны этические нормы использования AI, в том числе такие:

  • цели систем искусственного интеллекта не должны противоречить общечеловеческим ценностям;
  • ответственность за вред, причиненный искусственным интеллектом, несет разработчик;
  • системы AI, которые умеют воспроизводить себя, должны находиться под особо строгим контролем.

Уже в 2018 году группа правозащитников из Центра электронной конфиденциальности (EPIC) сформулировала «12 законов робототехники». Эти правила также призваны урегулировать использование искусственного интеллекта. После публикации активисты предложили властям США официально утвердить эти законы: инициативу подписали 200 экспертов и 50 организаций, в том числе Федерация американских ученых.

Итоги

Несмотря на опасения и предостережения, технологии AI продолжают развиваться с невероятной скоростью. Согласно результатам ежегодного исследования AI Index, которое проводит MIT, а также Стэнфордский и Гарвардский университеты, число активных AI-стартапов в США с 2015 по 2018 год выросло в 2,1 раза, а общее число – в 1,3 раза. При этом венчурные инвестиции в такие предприятия увеличились с 2013 года в 4,5 раза (общие – в 2,1 раза).

По мнению футуролога Реймонда Курцвейла, компьютеры уже в 2040-х годах по вычислительным возможностям сравняются с мозгом человека и смогут превзойти его. Эксперт настроен оптимистично: он считает, что в ближайшие десятилетия человечество станет использовать умных нанороботов, которые помогут людям победить болезни и старение.

Новости AI-индустрии и кейсы для вас