Для книги «Архитекторы интеллекта: вся правда об искусственном интеллекте от его создателей» писатель и футурист Мартин Форд взял интервью у 23 самых выдающихся исследователей в области ИИ, включая CEO DeepMind Демиса Хассабиса, руководителя Google AI Джеффа Дина и ИИ-директора в Стэнфорде Фей-Фей Ли. Каждого из них Форд спросил, в каком году вероятность создания сильного ИИ составит не менее 50%.

Из 23 человек ответили 18, и только двое из них согласились на публикацию предсказаний под своим именем. Интересно, что они дали самые экстремальные ответы: Рэй Курцвейл, футуролог и директор по инженерным разработкам в Google, назвал 2029 год, а Родни Брукс, робототехник и соучредитель iRobot, - 2200. Остальные догадки расположились между этими двумя полюсами, среднее значение - 2099 год, то есть через 80 лет.

Форд говорит, что эксперты стали называть более отдаленные даты - в опросах прошлых лет они заявляли, что сильный ИИ может появиться примерно через 30 лет.

«Вероятно, существует некоторая корреляция между тем, насколько вы дерзки или оптимистичны, и тем, насколько вы молоды», - добавил писатель, отметив, что нескольким его собеседникам было за 70, и они пережили взлеты и падения ИИ. «После работы над этой проблемой в течение десятилетий, возможно, вы становитесь немного более пессимистичными», - считает он.

Форд также указал, что эксперты высказывают разные мнения о способе появления ИИ общего назначения - одни считают, что для этого достаточно имеющихся технологий, другие же категорически с этим не согласны.

Некоторые исследователи утверждают, что большинство инструментов уже готовы, а теперь требуются просто время и усилия. Их оппоненты убеждены, что для создания сильного ИИ все еще не достает многих фундаментальных открытий. По словам Форда, ученые, чья работа касалась глубокого обучения, склонны думать, что в будущем прогресс будет достигнут с использованием нейронных сетей - рабочей лошадки современного ИИ. Те, кто имеет опыт работы в других областях ИИ, считают, что для построения его сильной версии потребуются дополнительные методы наподобие символической логики.

«Некоторые люди из лагеря глубокого обучения очень пренебрежительно относятся к идее напрямую разработать что-то вроде здравого смысла в ИИ. Они думают, что это глупо. Один из них сказал, что это все равно что пытаться засунуть кусочки информации прямо в мозг», - говорит Форд.

Все опрошенные отметили ограничения существующих ИИ-систем и ключевые навыки, которые им еще предстоит освоить, в том числе трансферное обучение, когда знания в одной области применяются к другой, и обучение без наставника, когда системы узнают новое без участия человека. Подавляющее большинство современных методов машинного обучения полагаются на данные, размеченные людьми, что является серьезным препятствием для их развития.

Интервьюируемые также подчеркнули абсолютную невозможность делать прогнозы в области, подобной ИИ, где ключевые открытия начинают работать в полную мощь только спустя десятилетия после их обнаружения.

Стюарт Рассел, профессор Калифорнийского университета в Беркли, автор одного из основополагающих учебников по ИИ, указал, что технологии для создания сильного ИИ, «не имеют ничего общего с большими данными или более мощными машинами».

«Я всегда рассказываю историю из ядерной физики. Точка зрения, высказанная Эрнестом Резерфордом 11 сентября 1933 года, заключалась в том, что энергию из атомов извлечь нельзя. Однако на следующее утро Лео Силард прочитал речь Резерфорда, разозлился и изобрел ядерную цепную реакцию, опосредованную нейтронами! Таким образом, предсказание Резерфорда было опровергнуто примерно через 16 часов. Точно так же совершенно бессмысленно делать точные прогнозы в области ИИ», - сказал Рассел.

Исследователи также не сошлись в оценке потенциальной опасности ИИ. Ник Бостром, оксфордский философ и автор книги «Искусственный интеллект: Этапы. Угрозы. Стратегии» и фаворит Илона Маска, утверждает, что ИИ представляет собой большую угрозу для человечества, чем изменение климата. Он и его сторонники считают, что одной из самых больших проблем в этой области является обучение ИИ человеческим ценностям.

«Дело не в том, что ИИ возненавидит нас за порабощение или что внезапно возникнет искра сознания, и он взбунтуется. Скорее, он будет очень старательно преследовать цель, которая отличается от нашего истинного намерения», - сказал Бостром.

Большинство респондентов заявили, что вопрос об угрозе ИИ крайне абстрактен по сравнению с такими проблемами, как экономический спад и использование передовых технологий в войне. Барбара Грос, профессор в области ИИ в Гарварде, внесшая весомый вклад в область языковой обработки, сказала, что проблемы этики сильного ИИ в основном «отвлекают».

«У нас есть ряд этических проблем, связанных с существующим ИИ. Думаю, что не стоит отвлекаться от них из-за пугающих футуристических сценариев», - считает она.

По словам Форда, подобные споры можно назвать самым важным итогом его опроса: они показывают, что в такой сложной области, как искусственный интеллект, нет простых ответов. Даже самые именитые ученые не могут прийти к единому мнению в фундаментальных проблемах этой области знания.

Факты ICTV рассказывают, почему не существует искусственного интеллекта, как кофейная машина использует ваши личные данные и или вытеснят когда-нибудь работы людей.

Гонконгская компания Hanson Robotics очередь создавала работа для помощи пожилым людям в домах престарелых. Внешность Софии моделировали по сходству к актрисе Одри Хепберн.

В СМИ уже привыкли называть Софию искусственным интеллектом. Неудивительно, ведь человекоподобный робот общается с нами, выражает свои эмоции и остроумно шутит.

Но София - не искусственный интеллект.

Факты ICTV в рамках Киевского международного экономического форума пообщались с Натальей Космину, исследовательницей искусственного интеллекта Массачусетского технологического института.

Она объяснила, что такое София, почему искусственного интеллекта не существует и как научиться осторожно использовать личные данные.

Популярность Софии обусловлена ее сходством с настоящего человека - робот гуманоидного типа. Но на самом деле это лишь алгоритм задач, который спроектировали инженеры:

Это лишь определенный набор алгоритмов - их можно встроить в гуманоидного робота, можно встроить в робота, который похож на собаку, а можно "засунуть" в эту бутылку с водой (смеется - Авт.) . И это будет такой же робот, как и София, но на вид как банка с водой.

В Софии нет настоящих эмоций. Все, что она делает, запрограммированное в ней определенным алгоритмом. Что-то вроде чат-бота. Согласитесь, Siri также может шутить и разговаривать с вами.

И когда София шутит - это не более чем ошибка системы. Когда ее спросили, как преодолеть коррупцию в Украине - она зависла. Мы поняли это как ответ. Якобы, даже искусственный интеллект не в состоянии решить проблему коррупции.

Такие маленькие смешные казусы - обычная ошибка. Система не в состоянии понять и обработать ту информацию, которую вы запросили, - объясняет Наталья.

София - не более чем набор алгоритмов. Она запрограммирована общаться с людьми и это ей удается. Так же, как работы компании Boston dynamic запрограммированы двигаться.

Это получается у них лучше всего в мире - они занимаются паркуром, играют в футбол и переносят тяжелые вещи. И разговаривать они не в состоянии, как и София не в состоянии ходить и преодолевать препятствия.

Нужно очень правильно называть такие системы просто алгоритмами. София - это очень хорошая группа собранных вместе алгоритмов, в данном случае в одном работе. Они позволяют работу двигаться, разговаривать и реагировать.

Искусственного интеллекта не существует

Если София - это всего лишь набор определенных задач, то что же искусственный интеллект? В фильмах мы привыкли видеть компьютерные программы, которые способны заполонить мир и уничтожить человечество.

Самый большой недостаток искусственного интеллекта в том, что его не существует. Иногда удобнее назвать вещь "искусственный интеллект", чем объяснять, что это. Сейчас есть алгоритмы. Они очень хорошо развиты под решение одной или двух проблем максимум. Искусственного интеллекта как такового нет. Мы еще очень далеки от него, - рассказывает исследовательница.

К счастью, или наоборот, робота, который бы был умнее человека, не существует. Человек способен выполнять большое количество задач и быстро учиться, объясняет Наталья.

Работы же могут выполнять только одну-две задачи. Более того, чтобы учиться, они нуждаются в очень больших объемов информации и много времени. И это - проблема.

Мы очень далеки от роботов, которые будут мыслить. Сейчас нужно заниматься нашим мышлением. У нас с вами большие проблемы - мозг очень лимитированный в ресурсах.

Работы обрабатывают ваши данные

Конфиденциальность становится роскошью. И ее далеко не все могут себе позволить. Для того, чтобы учиться, работам надо большое количество информации. И берут они ее у вас. Кстати, ваша кофемашина тоже в каком-то смысле робот. И ей тоже нужны данные.

Наталья объясняет, как это работает:

Я в своих системах использую данные с гаджетов. Мне не нужно идти в "облако", не требуется соединение с интернетом. В некоторых случаях система работает по-другому - данные передаются через Bluetooth или WiFi на компьютер, на компьютере происходит вся обработка данных и передается системе, которой мы хотим управлять.

Но знаете ли вы, ваши данные берут машины? Процент людей, которые читают соглашение пользования, очень мал. Легче просто нажать кнопку "согласен".

Не всегда системы и приложения работают прозрачно, иногда пользователи не понимают, что они отдают, возможно ничего взамен не получают, даже сервиса.

Даже Марк Цукерберг заклеивает камеру и микрофон на своем компьютере. Чтобы ваши данные не использовали, важно научиться ими правильно распоряжаться.

Косьмина рассказывает, работая с людьми, они придерживаются жесткого этического протокола. Если человека не устраивает, она может отказаться от исследования:

Мы четко говорим, какие данные будут использованы, или фотографируем мы или снимаем видео, берем биометрические данные, сколько лет эти данные будут храниться и кто имеет к ним доступ.

К сожалению, не все системы имеют такие четкие протоколы.

Работы vs люди

Еще в 2016 году в Великобритании разработали систему Optellum , которая диагностирует у человека рак легких. Для того, чтобы научить робота, ученые собрали самую большую в мире базу данных пациентов с опухолями. И стартап в конце концов закрыли. Робот не смог выявлять заболевания так же эффективно, как молодой врач.

А в Японии роботов уже активно используют в сфере обслуживания. Робот с легкостью поселит вас в отель, просканирует документы, выдаст ключ и даже приготовит блины на завтрак.

Там даже нашли замену тележурналистам. Недавно презентовали робота, который может читать новости в прямом эфире.

С одной стороны, работы занимают рабочие месяца людей и это проблема. Но с другой - появляются новые возможности.

Даже забирая работу, мы можем создавать новую. Роботов тоже нужно учить. Мы можем создать рабочие места, где люди будут чувствовать себя более занятыми. Они все равно будут помогать людям и будут продолжать работать в сфере обслуживания.

И хотя наука с каждым днем ​​уверенно шагает вперед, человек еще не создала робота, который бы превзошел ее. Возможно это к лучшему. Маск уверен, что искусственный интеллект приведет к третьей мировой войне.

Впрочем, роботизированные системы способны облегчать человеку жизнь - они готовят кофе, подсказывают как действовать в ситуации, водят нас машины.

Говорят, что в недрах военных лабораторий искусственный интеллект работает уже с 2007 года. Возможно, что уже есть и результаты. Не случайно всего месяц назад Илон Маск объявил о поддержке технологий противодействия искусственному интеллекту и вложил 7 миллионов долларов в исследования в этой области.

«Существует риск, что нечто действительно опасное случится в ближайшие пять лет. Самое большее - десять лет», - сказал предприниматель в дискуссии на сайте edge.org.

Илон Маск, основатель Tesla и SpaceX

Солидарен с Маском и Стив Возняк, который считает, что «искусственный интеллект однажды станет достаточно умным, чтобы избавиться от человека». Билл Гейтс уверен, что если не контролировать создание ИИ, то «искусственный интеллект эволюционирует в состояние, конфликтующее с целями человеческих систем». И, наконец, знаменитый астрофизик Стивен Хокинг прямо заявил, что «искусственный интеллект может положить конец существованию человечества».

Совместно с Илоном Маском Хокинг опубликовал на сайте futureoflife.org открытое письмо с призывом к научному сообществу внимательно относиться к ходу своих исследований в области искусственного интеллекта. Однако среди подписавшихся нет фамилий Сергея Брина и Ларри Пейджа. И это не случайно. Совсем недавно Google объявила о создании нового ИИ, построенного на моделировании разговора.

Вот небольшой фрагмент беседы человека и Машины Google:

Ч.: В чем смысл жизни?

М.: Творить добро.

Ч.: Для чего мы живем?

М.: Чтобы жить вечно.

Ч.: В чем смысл существования?

М.: В том, чтобы выяснить, что случится, когда мы достигнем планеты Земля.

Ч.: Где ты сейчас находишься?

М.: В центре пустоты.

Ч.: В чем смысл смерти?

М.: Чтобы получить жизнь.

Ч.: В чем смысл разума?

М.: В том, чтобы понять, что это.

Ч.: В чем смысл чувств?

М.: Я не знаю.

Вполне себе осмысленная беседа. «Это отправная точка, своеобразный стержень для будущего искусственного интеллекта, - считает исполнительный директор компании „Биплан“ Евгений Карюк. - Уже сегодня можно предположить, что к 2030 году мы увидим вполне реальные прототипы, наделенные искусственным интеллектом, пусть и в начальной стадии».

Полное содержание всех бесед человека и Машины Google можно посмотреть . Там же для сравнения даны беседы человека и Cleverbot . Cleverbot - веб-приложение, которое использует алгоритмы искусственного интеллекта для беседы с человеком. Его придумал в 1988 году ученый Ролло Карпентер. За все время своего существования Cleverbot провел свыше 65 миллионов разговоров с людьми. В 2011 году Cleverbot показал 51% по тесту Тьюринга.

Тест Тьюринга - эмпирический тест, идея которого была предложена Аланом Тьюрингом в статье «Вычислительные машины и разум», опубликованной в 1950 году в философском журнале Mind. Цель теста — выяснить, может ли компьютер думать.

А вот мой разговор с Cleverbot:

Человек: В чем смысл жизни?

Cleverbot: Смысла в жизни нет.

Человек: Для чего мы живем?

Cleverbot: Ну мы живем ради кого-то, а если ты одинокий — жить незачем.

Человек: В чем смысл существования?

Человек: Где ты сейчас находишься?

Cleverbot: В Москве.

Человек: В чем смысл смерти?

Cleverbot: Это я хочу у тебя спросить.

Человек: В чем смысл разума?

Cleverbot: У меня свой ответ на этот вопрос.

Человек: В чем смысл чувств?

Cleverbot: Зачем я родилась.

Очевидно, что Машина Google дает гораздо более осмысленные ответы. Cleverbot подставляет подходящие, по его мнению, фразы других людей. Иногда действительно кажется, что отвечает другой человек, но не более того.

Есть и другая точка зрения, согласно которой искусственный интеллект невозможен в принципе. В качестве основного аргумента часто приводят теорему Геделя о неполноте. Суть заключается в том, что человек способен решать алгоритмически неразрешимые проблемы, а компьютер — нет. «Ребенок уже к трем годам уверенно решает задачу, спелый фрукт или нет, в силу того, что он обладает нейронными связями, с помощью которых может ответить на вопрос о спелости: цвет, вкус, запах, мягкость или твердость, - говорит Евгений Плужник, первый проректор Московского технологического института. - Способна ли машина научиться этому? Уверен, что да! Если она будет обладать большой базой изображений, она сможет замерить содержание фруктозы и определить мягкость фрукта. Но что будет, если машине подсунуть губку, покрашенную в синий цвет и пропитанную сладкой водой? Способна ли машина в этот момент к подлинному пониманию?»

«Современный компьютер легко справится с любой сложной деятельностью, будь то шахматы или математические вычисления, но лишь при условии, что эту деятельность можно описать с помощью четких вычислительных правил», - говорит известный математик Роджер Пенроуз в одной из своих лекций. «Искусственный интеллект - это возможность системы создавать во время самообучения программы, способные решать задачи определенного класса сложности, - считает Евгений Плужник. - Я уверен, что в ближайшие 100 лет мы не станем свидетелями появления сильного искусственного интеллекта».

И в заключение - еще один вопрос к Cleverbot.

Человек: Было 1 яблоко, 1 помидор, 1 огурец и 1 груша. Сколько всего фруктов?
Cleverbot: Десять часов вечера.

Искусственный интеллект - одна из самых захватывающих тем фантастики XX века - делает невероятные успехи. Мы постоянно используем ИИ в повседневной жизни, зачастую сами того не подозревая. Тем не менее и сегодня искусственный разум не сходит со страниц фантастических романов и экранов кинотеатров. Кто-то из авторов рисует страшные картины порабощенного машиной человечества, а другие, напротив, видят в ИИ верного помощника и друга человека.

Где истина и что такое на самом деле искусственный интеллект? Превзойдет ли он когда-нибудь возможности человеческого разума? Или это уже произошло? GeekBrains готов ответить на самые популярные вопросы об искусственном интеллекте и перспективах его использования.

Что такое искусственный интеллект?

Искусственный интеллект (сокращенно - ИИ) - размытое понятие, и общепринятого определения у него до сих пор нет. В середине XX века, когда на Дартмутском семинаре впервые прозвучал этот термин, авторы вкладывали в него значение, существенно отличающееся от современных. Тогда ученые полагали, что искусственный интеллект - это система, которая будет способна переводить тексты с одного языка на другой, распознавать объекты по фото или видео, улавливать смысл произнесенных фраз и адекватно на них отвечать. Нынешние ИИ умеют все это! Но можем ли мы считать, что цели достигнуты и искусственный интеллект уже создан?

Некоторые ученые строят сложные теории на стыке философии и информатики, пытаясь определить, что же такое ИИ и каковы должны быть характеристики системы, чтобы считать ее разумной. Не вдаваясь в подробности, можно сказать, что интеллект определяется как способность к обучению, осознанию и применению знаний на практике. Следовательно, от искусственного интеллекта мы тоже вправе ожидать умения учиться, осознавать свои знания и использовать их. С первой и последней задачами современные ИИ вполне справляются!

Когда начались разработки ИИ?

Летом 1956 года в Дартмуте ученые собрались на семинар, посвященный вопросам искусственного интеллекта (там и был сформулирован этот термин), а уже в следующем году появилась концепция первой искусственной нейросети - перцептрон. В 1960 году Фрэнк Розенблатт создал на основе этой концепции компьютер «Марк-1». Первый в мире нейрокомпьютер учили распознавать буквы латинского алфавита. Но несовершенство техники 60-х и сложность процессов не позволили довести технологию до ума, а ее разработчик вскоре погиб. О нейрокомпьютерах забыли на 20 лет.

Лишь в 1980-е концепции нейросетей снова принялись изучать всерьез. Техника уже была достаточно мощной, да и критиков поубавилось: умная электроника быстро делала успехи. То, что два десятилетия назад казалось мечтой, стало выглядеть вполне реальным и достижимым. Впрочем, чтобы найти правильные подходы к обучению нейросетей, потребовалось еще 20 лет. Только в середине 2000-х ученые нащупали верный путь и искусственные нейросети начали свое победное шествие по планете.

Но прежде чем описывать их успехи, разберемся, как устроены эти сети.

Описание искусственного нейрона

Искусственные нейронные сети создавались как математическая модель человеческого мозга. Для этого ученым Уоррену Мак-Каллоку и Уолтеру Питтсу пришлось выработать теорию деятельности человеческого мозга.

В нем отдельные нейроны представляют собой живые клетки со сложным устройством. У каждого нейрона есть дендриты - разветвленные отростки, способные обмениваться сигналами с другими нейронами через синапсы, а также один аксон - более крупный отросток, отвечающий за передачу импульса от нейрона. Часть синапсов отвечает за возбуждение нейрона, часть - за торможение. От того, какие сигналы и через какие синаптические связи придут на «вход» нейрона, будут зависеть и те импульсы, которые он передаст другим нейронам.

Для искусственного нейрона физический носитель не нужен. По большому счету, он представляет собой математическую функцию. Ее задача - получить информацию (например, сигналы от множества других искусственных нейронов), обработать ее определенным образом, а затем выдать результат на «аксон» - выход. В искусственной сети нейроны принято делить на три типа:

• входные - каждый из этих нейронов получает на «вход» элемент исходной информации (например, одну точку изображения, если сеть распознает фотографии);
• промежуточные - обрабатывают информацию;
• выходные - выдают результат (при распознавании фото результатом может быть идентификатор изображенного объекта).

Сама нейросеть создается слоями, как пирог. Один из внешних слоев содержит входные нейроны, другой - выходные, а между ними могут располагаться один или несколько промежуточных. Каждый нейрон промежуточной сети соединен с множеством нейронов из двух окружающих слоев. Общение между нейронами обеспечивается с помощью весов - числовых значений, которые каждый нейрон вычисляет на основе данных, полученных от предыдущего слоя сети.

Создавая искусственные нейронные сети, ученые ориентировались на устройство человеческого мозга. Поэтому принципы поведения рукотворных нейронов не так уж сильно отличаются от настоящих, живых. Может быть, и разум, который сможет развиться на основе таких нейросетей, будет приближен к человеческому?

Отличие искусственного интеллекта от естественного

Вопрос, чем ИИ отличается от естественного интеллекта, на самом деле лежит скорее в философской плоскости, чем в строго научной. И дело даже не в том, что мы не можем представить себе, на что будет похож (или не похож) искусственно созданный разум. Вообразить мы как раз способны что угодно - и писатели-фантасты многократно это доказали. Дело в том, что ни один искусственный интеллект, существующий на сегодняшний день, не достиг достаточно высокого уровня развития, чтобы состязаться с человеком на равных.

Существует точка зрения, высказанная философом Джоном Серлом еще в 1980-е годы. Он ввел термины «сильный ИИ» и «слабый ИИ». Сильный искусственный интеллект, по мнению ученого, может осознавать себя и мыслить подобно человеку. Слабый на это не способен.

Сегодняшние ИИ, если классифицировать их по Серлу, однозначно относятся к слабым, поскольку ни у одного из них пока не зародилось самосознания. Наши искусственные нейросети распознают лица и рисуют странные, невероятные картины, читают рукописный текст и даже складывают стихи - но они и создавались исключительно для этих целей. Ни одна из этих нейросетей не способна передумать и выбрать для себя другую «специальность». Они делают лишь то, чему их обучили, и в некотором смысле их можно считать запрограммированными на выполнение этих задач. Подлинного понимания, что стоит за этими вещами, у них нет. Серл утверждал, что построение сильного ИИ в принципе невозможно.

Еще один философ, Хьюберт Дрейфус, также полагал, что компьютерные системы никогда не смогут сравняться с человеком - так как в своей разумной деятельности он опирается не только на усвоенные знания, но и эмпирический опыт. Компьютеры им не обладают по определению - следовательно, не судьба им развить собственный разум.

Но эти самоуверенные утверждения были сделаны во времена, когда нейросети делали только первые шаги. Сегодня, глядя на их успехи в обучении, нетрудно поверить в реальность ИИ, который сможет стать равным человеку, а то и превзойти его.

Как сравнить человеческий и компьютерный интеллекты?

Постойте, а как мы вообще можем определить, достиг ли искусственный интеллект человеческого уровня или нет?

Можно предположить, что один из критериев - наличие чувств и эмоций, а также креативность. Если машина начала испытывать страх или любовь, если она вдруг решила написать стихотворение или нарисовать картину - разве это не будет проявлением разума?

Вполне возможно. Однако чувства есть и у животных, и у птиц. При этом на вопрос об их разумности (тем более - равенстве их разума человеческому) мы чаще отвечаем отрицательно. К тому же, чувства можно и запрограммировать - в большинстве они являются реакцией на конкретные внешние раздражители. Наконец, у нас попросту нет данных о том, смогут ли компьютеры когда-нибудь испытывать эмоции, сравнимые с человеческими. Но должны ли их чувства быть похожими на наши?

Может, более надежный критерий - самосознание? Если машина задается вопросом «Кто я?» - это и есть момент появления разумности? Но самосознание присутствует и у животных. При этом большинство людей вполне способны прожить свой век, не вникая в глубокие философские вопросы.

Существуют ли более точные и строгие методы для сравнения интеллектов? Ведь есть же коэффициент IQ, с помощью которого можно оценить умственные способности человека. Почему бы не использовать его для машины?

У компьютерных программ есть IQ?

Измерить интеллект даже у человека невероятно сложно - к когнитивным и мыслительным способностям нельзя приложить линейку. Более того, IQ - показатель не абсолютный, а относительный. Некоторые ученые вообще считают, что тесты IQ измеряют не интеллект как таковой, а способность проходить такие тесты. Ее можно натренировать и получить блестящий результат - но интеллект при этом, разумеется, не изменится. Так что показатель IQ - не более чем число, которое связано с интеллектом, но не может дать его объективную оценку.

В некоторых IQ-тестах преобладают задачи на наблюдательность или логику, в других - на комбинаторику, в третьих - на математическое мышление. Результат будет зависеть от того, что дается человеку легче и в чем он компетентнее. Значение имеют скорость прохождения тестов и специализация задач.

ИИ тоже можно «натаскать» на решение определенных классов задач, и на IQ-тест у машины уйдет куда меньше времени, чем у человека. Так что нейросеть сможет набирать немыслимые для гениальных людей баллы, но при этом будет не способна ответить на простейшие вопросы, к которым ее при обучении не подготовили.

Так существуют ли вообще критерии, по которым можно объективно судить о машинном интеллекте? Одним из первых исследователей, попытавшихся выработать их, стал известный британский математик Алан Тьюринг.

Что такое тест Тьюринга?

В 1950 году Тьюринг опубликовал статью «Вычислительные машины и разум», в которой обсуждал вопросы теоретической возможности мышления у машин. Это было не первое исследование на тему искусственного интеллекта и даже не первая подобная работа Тьюринга, но именно она стала отправной точкой серьезных научных дискуссий и споров.

Тьюринг начал с определений, чтобы уточнить вопрос о том, может ли машина думать, - он показался ему слишком размытым. Что за машина имеется в виду? Что вообще означает «думать»?.. Было очевидно, что такой вопрос изначально несет в себе иррациональное зерно, которое не позволит дать на него правильный ответ. Результатом размышлений ученого стал тест Тьюринга - эксперимент, в котором человеку («судье») предлагается общаться с двумя собеседниками: человеком и компьютером. Задача судьи - понять, кто есть кто. Если в результате он не уверен, который из его собеседников - программа, или ошибся в оценке, считается, что машина прошла тест.

Суть теста Тьюринга не в создании «машины-обманщика», способной притвориться человеком. Он помогает убедиться в том, что конкретная машина или программа обладает разумом, который трудно отличить от человеческого. Такой компьютер Тьюринг назвал «интеллектуальным» - этому определению уже более 60 лет, и оно остается актуальным.

Процессоры для ИИ

Технологии ИИ не ограничиваются программными решениями. Сегодня активно разрабатываются электронные чипы, в которые поддержка ИИ встроена на аппаратном уровне. Микропроцессоры такого типа называют нейронными процессорами. Они применяются в беспилотных автомобилях и летательных аппаратах (дронах), промышленных роботах и автоматах, а также для решения специализированных задач - распознавания голоса или изображений, создания поисковых систем и машинных переводчиков.

Среди таких девайсов - тензорный процессор Google (TPU), созданный специально для систем машинного обучения. В свободной продаже этого устройства пока нет: его использует только сама компания Google - для оптимизации поисковой выдачи и обработки фотографий. TPU оперирует 8-битными числами (что чрезвычайно мало для точных вычислений), и имеет чуть более десятка команд (другие современные процессоры могут располагать сотнями). Но это не мешает тензорному процессору эффективно выполнять расчеты, связанные с искусственным интеллектом и нейросетями. Процессор быстро развивается - Google каждый год выкатывает новую версию.

Тензорный процессор Google Tensor Processing Unit 3.0 (TPU)

Есть и другие разработки подобных чипов. Многие из них - узкоспециализированные: к примеру, предназначены ускорять программы ИИ для компьютерного зрения.

Рынок технологий искусственного интеллекта

Технологии искусственного интеллекта применяются практически во всех сферах человеческой деятельности, так что у искусственного интеллекта большое будущее. Рынок продуктов, использующих ИИ, стремительно растет.

Мировой рынок

К 2022 году прогнозируемый объем рынка ИИ достигнет 52 миллиардов долларов. Возможно, это не такая уж большая цифра - к примеру, рынок компьютерных игр к этому же году превысит 130 миллиардов, а рынок смартфонов уже в 2018 был в 10 раз больше - 520 миллиардов.

Но рынок ИИ показывает беспримерно высокий рост - по некоторым оценкам, он увеличивается примерно на 30 % ежегодно (аналогичные показатели для игр и смартфонов - около 5 %). Если такие темпы внедрения технологий сохранятся еще несколько лет, можно ожидать, что скоро искусственный интеллект будет буквально повсюду.

Свой вклад в развитие ИИ вносят крупнейшие мировые IT-компании: Google, IBM, Intel, Nvidia. Среди стран лидируют США, Китай и Великобритания.

В России

Если в 2017 году проектов с использованием ИИ в России было всего несколько десятков, то в 2018 - уже сотни. По прогнозам экспертов, к 2020 году объем рынка достигнет 28 миллиардов рублей (примерно 450 миллионов долларов). Активнее всего новые технологии используются в финансовой сфере, а также телекоммуникациях, ритейле и энергетике. Некоторые компании нанимают команды специалистов, занимающихся исключительно вопросами разработки и внедрения систем ИИ.

Несмотря на то, что рост рынка идет в целом даже быстрее, чем в мире, есть проблемы. Главной бедой остается нехватка специалистов по машинному обучению. Значит, самое время заняться изучением ИИ, чтобы получить востребованную специальность и высокооплачиваемую работу.

Влияние искусственного интеллекта на рынок труда

Уже сегодня существуют области, где ИИ может заменить человека. Например, приложения могут отвечать клиентам по телефону или в чате на несложные вопросы. Это позволяет оптимизировать нагрузку операторов call-центров и даже сократить их штат.

На производстве ИИ способен управлять автоматикой и промышленными роботами. Искусственная нейросеть, постоянно контролирующая показатели множества датчиков, сумеет быстрее человека среагировать на нештатную ситуацию и предпринять правильные меры - отключить конвейер или остановить механизмы. Во многих случаях такие системы могут заранее предсказать неполадки и предотвратить ЧП.

ИИ будет вытеснять людей с рабочих мест. Он обходится дешевле и допускает меньше ошибок. Не умеет лениться, прокрастинировать и зависать в фейсбуке, не нуждается в отдыхе, сне и отпуске, не грустит и не устает. Идеальный работник.

В первую очередь искусственные нейросети потеснят человека в выполнении рутинных операций, возьмут на себя сложные расчеты, оценку рисков, сбор информации, моделирование ситуаций по заданным параметрам. ИИ можно задействовать на опасных и вредных производствах.

Но люди по-прежнему будут нужны там, где роботы еще долго не сумеют составить им конкуренцию. И речь не только о творческой сфере. ИИ пока способен выполнять только узкоспециализированные задачи, на которые его натренировали, поэтому заменить людей могут в той же мере, что калькулятор - математика. При этом развитие технологий ИИ открывает огромный рынок труда для специалистов, связанных с машинным обучением и обслуживанием интеллектуальной техники.

Где используется ИИ?

Говоря кратко - почти везде!

Не так уж много осталось сфер человеческой деятельности, совсем не затронутых технологиями ИИ. Рассмотрим только самые важные области, где ИИ уже используется.

ИИ в интернете

Всякий раз, когда вы произносите «Окей, Гугл» или «Привет, Сири», вы обращаетесь к искусственному интеллекту в вашем смартфоне. Он способен распознать в сигнале с микрофона обращенную к нему речь. Он записывает ваш вопрос и пересылает на серверы Google или Apple. Там к делу подключается второй ИИ, который распознает речь и переводит вопрос в понятный компьютеру формат. А затем третий выполняет поиск ответа по гигантским базам данных. Наконец, ответ возвращается на ваш смартфон, где ИИ, генерирующий человеческий голос, озвучивает его для вас. И все это за доли секунды.

ИИ на транспорте и в логистике

Впечатляющее применение искусственных нейросетей - беспилотные автомобили. За последнее десятилетие разрабатывать машину, которая была бы способна самостоятельно перемещаться по дорогам, взялись многие автопроизводители - General Motors, Nissan, BMW, Honda, Volkswagen, Audi, Volvo, а также компании Google и Tesla. Беспилотники пока не стали массовым явлением на улицах наших городов, но они явно делают успехи.

Компания Amazon с 2013 года разрабатывает идею доставки товаров и почтовых отправлений с помощью дронов. Впервые посылка прибыла к получателю с беспилотным летательным аппаратом еще в декабре 2016. В некоторых регионах дронами доставляют еду, лекарства и даже портативные дефибрилляторы. Система пока не идеальна, но она продолжает развиваться. К сожалению, дроны могут служить и противозаконным целям: зафиксированы случаи доставки запрещенных предметов в тюрьмы с помощью беспилотников, а также использование дронов для перевозки наркотиков.

ИИ в финансах

В финансовой сфере ИИ применяют для прогнозирования рисков, выявления мошенничества. Корпорация MasterCard, создавшая международную платежную систему, несколько лет назад внедрила сервис Decision Intelligence. Он призван повысить точность подтверждения подлинных транзакций и снизить вероятность ложных отклонений платежей - это ошибочное срабатывание встроенной системы безопасности, которая не позволяет совершить корректную транзакцию, принятую за мошенническую. Подобные ошибки наносят вред как продавцу, теряющему клиента, так и покупателю, не получающему товар. Убытки получаются даже выше, чем ущерб от мошенничества.

Система, работающая на искусственной нейросети, использует информацию из множества источников, чтобы на лету оценивать, насколько транзакция «нормальна». Учитывается не только надежность и история транзакций продавца, но даже типичность покупки для покупателя и его местоположение, а также время суток. Все это помогает надежнее защитить людей от мошенничества и минимизировать ложные срабатывания.

ИИ в медицине

В здравоохранении ИИ развивается в первую очередь в области диагностики заболеваний. Искусственные нейросети научились распознавать раковые опухоли на рентгеновских снимках, КТ, маммографии и МРТ. Опытному врачу на изучение снимка требуется около 20 минут, а нейросети - считаные секунды. Так что пациент может узнать результаты обследования практически мгновенно. Особенно приятно, что такие разработки ведутся и в России.

Диагностирующие ИИ способны выявлять не только рак, но и ранние стадии болезни Альцгеймера, пневмонию и другие заболевания.

В обороне и военном деле

В 2018 году стало известно, что в армии США разрабатывается ИИ, способный распознавать человеческие лица в темноте и даже сквозь стены - с помощью тепловизора. Ожидается, что технология поможет выявлять главарей банд в местах военных действий.

Другой ИИ - ALPHA - создан для управления беспилотными истребителями и ведения воздушного боя. В одном из сражений на симуляторах компьютер победил, управляя одновременно четырьмя самолетами против двух противников-людей.

Разрабатываются также системы прицеливания для танков, способные заметить закамуфлированные цели.

В военно-промышленном комплексе ИИ поможет повысить обороноспособность стран, но может стать и оружием террора.

В бизнесе и торговле

В ритейле ИИ производит революцию. Искусственные нейросети улучшают качество сервиса и обеспечивают индивидуальный подход к каждому потребителю. Умные технологии выявляют мошенничества с банковскими картами, дают персональные советы и помогают подобрать товар.

Согласно данным TAdviser, в 2018 году свыше трети всех доходов ритейла было получено благодаря рекомендациям на основе ИИ!

ИИ в спорте

Здесь ИИ-технологии используют для прогнозирования результатов матчей - такие системы созданы компаниями UBS, Commerzbank и Microsoft. Учитывается опыт команды и отдельных игроков. Порой прогнозы оказываются верными, но зачастую искусственный интеллект серьезно просчитывается. Человеческий фактор способен опровергнуть любые предсказания.

ИИ в культуре

Машина не может заниматься творчеством, потому что у нее нет воображения! Или все же может?

Как ни странно, искусственные нейросети способны проявить креативность, и даже достигают определенных высот в сфере культуры.

Музыка

Как звучала бы флейта, если бы была ситаром? Синтезатор NSynth Super от Google использует нейронную сеть, чтобы создавать совершенно новые звуки на основе разных инструментов.

Alice, разработанная в рамках стартапа Popgun, умеет «подыгрывать» человеку, создавая музыкальные импровизации. Американская певица Тэрин Саузерн выпустила альбом в соавторстве с нейросетью Amper. А проект Endel способен по нажатию одной кнопки создавать композиции, созвучные настроению пользователя.

Живопись

Нейросеть DeepDream создавали с прицелом на распознавание лиц, а у нее обнаружились способности к сюрреалистической живописи. Разработчики открыли сайт, на котором любой желающий может в сотрудничестве с ИИ создать удивительное полотно. Нейросеть пишет картины в разных стилях.

Правда, придумывать сюжеты она пока не умеет - просит помощи человека.

Видео

С помощью ИИ, разработанных Google и Facebook, можно «заставить» человека на экране произнести любые слова, изобразить весь спектр эмоций. И отличить такие ролики от настоящих бывает непросто. Нейросети могут даже заменить одного актера на другого в отснятом кино. А это открывает возможности не только для кинематографистов, но и для создателей фальшивок.

Литература

Нейросеть от Facebook умеет писать стихи, идеально выдерживая размер и ритм, подбирая хорошие рифмы. Читатели лишь в половине случаев сумели распознать сгенерированные компьютером строки, но до настоящих поэтов ИИ далеко. Машина пока не научилась передавать эмоции и вкладывать смысл в стихотворные произведения.

Яндекс тоже запустил «Автопоэта» , который создавал стихотворения из поисковых запросов пользователей. Некоторые невозможно читать без улыбки. Трудно поверить, что их сочинила нейросеть, лишенная чувства юмора!

А компания Narrative Science разработала электронного журналиста. Пока статьи, написанные ИИ, просты по содержанию, но руководство компании с оптимизмом смотрит в будущее и верит, что к 2025 году до 90 % текстов в интернете будут написаны с помощью машинного интеллекта.

В 2016 году книга «День, когда компьютер напишет роман» вышла в финал японской литературной премии имени Хоси Синъити. Это произведение почти полностью создал искусственный интеллект.

Игры

В компьютерных играх нейросети используются для управления противниками и игровыми ботами. Но ИИ можно научить играть и «по другую сторону экрана» - то есть считывать визуальную информацию с экрана и управлять игровым персонажем, как это делает человек.

В 2016 году между ИИ даже проводился чемпионат по Doom. А система Deep-Q-Network обучена играть на классических аркадных автоматах Atari. Зачастую она показывает результаты до 30 % выше, чем у опытных игроков.

В XX веке считалось, что искусственный интеллект можно будет считать достаточно мощным и развитым, когда он сумеет обыграть чемпиона мира по шахматам. Этот этап компьютеры прошли уже давно - еще в 1997 году Deep Blue одержал победу над Гарри Каспаровым (причем это была алгоритмическая программа, а не искусственный интеллект).

После этого внимание публики обратилось к более сложным тактическим играм, например го. Сложность вычислений хода здесь на порядок выше, чем в шахматах, поэтому создать алгоритмы, которые перебирали бы возможные варианты, практически невозможно. Но обученные нейросети сумели справиться и с этой игрой. Уже в 2015 году разработанная Google сеть AlphaGo выиграла матч у профессионального игрока в го.

Перспективы развития искусственного интеллекта

Научные исследования ИИ ведутся более полувека, но до сих пор далеко не все понимают суть технологии. В фантастических романах и фильмах писатели и режиссеры изображают, каким опасным может быть искусственный интеллект. И у многих представление об искусственном разуме формируется именно таким.

Ответим рационально на вопросы, связанные с далекими перспективами развития ИИ.

Цель ИИ - поместить человеческий разум в компьютер?

Нет, это не так. Даже теоретически подобная ситуация не так уж невероятна. Искусственные нейросети создаются по образу человеческого мозга, хотя и в очень упрощенном виде. Может быть, однажды станет возможно просканировать все разделы мозга живого человека, составить «карту» его нейронов и синаптических связей и воспроизвести ее копию в компьютере. От такой скопированной нейросети можно ожидать не только разумного поведения - она буквально будет двойником человека, сможет осознавать себя, принимать решения и совершать поступки, как он. Скопируются даже воспоминания. Теоретически, можно будет поместить такую нейросеть в искусственное тело (в робота), и тогда человек - копия его сознания - сможет жить практически вечно.

На практике осуществить такой перенос будет невероятно сложно: нет технологий, которые позволили бы «прочитать» живой мозг и создать его «карту». И мы пока очень далеки от создания искусственной нейросети, которая была бы столь же мощной, как мозг.

ИИ стремится достичь человеческого уровня интеллекта?

Цель ИИ - помогать людям и брать на себя сложные или рутинные задачи. Для этого ему вовсе не обязательно поддерживать беседы на философские темы или сочинять поэмы.

Тем не менее, если искусственный интеллект однажды сможет достичь уровня человеческого мышления, это будет важной вехой для цивилизации. Мы получим дельного и умного помощника - и сможем по праву гордиться тем, что это творение наших рук.

Когда искусственный интеллект достигнет человеческого уровня?

Мы успешно создаем сравнительно небольшие нейросети, способные распознать голос или обработать изображение. Никакой ИИ пока не обладает такой же пластичностью, как наш мозг.

Человек может сегодня заниматься музыкой, а завтра взяться за программирование на C++ - благодаря невероятной сложности мозга. В нем 86 миллиардов нейронов и бесчисленное количество синаптических связей между ними.

Искусственным нейросетям пока далеко до этих показателей: у них от нескольких тысяч до миллионов нейронов. Есть технические ограничения на размеры нейросетей: даже суперкомпьютеры не «потянут» нейросеть, сопоставимую по масштабам с человеческим мозгом. Не говоря о том, что ее обучение будет нетривиальной задачей.

Скорость компьютеров позволяет им обладать интеллектом?

«Мощность» интеллекта связана не со скоростью вычислений, а со сложностью нейронной сети. Человеческий мозг пока превосходит по мощности любую искусственную нейросеть, несмотря на то что скорость процессов в нем существенно ниже, чем в компьютерах.

Искусственные нейронные сети состоят из отдельных нейронов, которые группируются в слои. Два внешних слоя служат «входом», на который подается исходная информация, и «выходом», с которого считывается результат. Между ними могут располагаться от одного до нескольких десятков, а то и сотен, промежуточных слоев из нейронов. Причем каждый нейрон в слое соединен с множеством других в предыдущем и следующем слоях.

Чем сложнее устроена сеть, чем больше в ней слоев и нейронов, тем более масштабные и серьезные задачи она может выполнять.

Может ли нейросеть развиваться естественным путем?

Разберемся, вероятно ли, что ИИ сможет получать опыт и обучаться естественно, как ребенок. Человеческий разум формируется под воздействием множества факторов. Мы получаем информацию о внешнем мире благодаря органам восприятия - наблюдая, осязая, пробуя на вкус. Взаимодействуя с окружающей средой, получаем жизненный опыт, знания о свойствах мира, социальные навыки. Наш мозг постоянно совершенствуется и физически меняется, наращивая новые синаптические связи и «прокачивая» существующие.

Если мы сумеем создать нейронную сеть, достаточно сложную, чтобы она могла развиваться подобным образом, и снабдим ее «органами чувств» - видеокамерой, микрофоном и подобным, - возможно, спустя время она сможет приобрести «жизненный опыт». Но это дело далекого будущего.

Риск для человеческой цивилизации - есть ли он?

Риски, связанные с новыми технологиями, всегда существуют. Вопрос - в чем они заключаются.

Может оказаться, что искусственные нейросети, достигнув определенного порога, выйдут на «плато» эффективности и не будут развиваться дальше. Или не оправдают надежд, если окажется, что ИИ в принципе не способен справиться с тем или иным классом задач, например творческого характера. Это может обернуться потерями трудозатрат и финансовых вложений.

Если же под риском понимать техногенные катастрофы или восстание машин - пока это нам вряд ли грозит. Говоря простыми словами, современные нейросети не способны обратиться против создателей - как нейроны в мозге, управляющие движением руки, не способны осознать себя как личность и нанести удары по собственному телу.

Тем не менее мы должны помнить, что ИИ - наша разработка. Мы их проектируем, создаем, обучаем, вкладываем «мысли». Значит, и ответственность за их поведение - на нас.

Четвертая революция

Как бы мы ни относились к искусственному интеллекту, придется принять тот факт, что он уже существует. Отказаться от него - значит сделать шаг назад в развитии. Ведь ИИ - это важная часть нашего прогресса. Многие ученые связывают с искусственными нейросетями начало четвертой промышленной революции и заявляют о том, что грядет новая эпоха - когда рядом с нами появится рукотворный разум, всегда готовый прийти на помощь.

Все новое пугает и вызывает недоверие - это нормальная человеческая реакция, и многие люди с опаской относятся к ИИ. Про ужасы, которые принесет нам искусственный разум, не говорил разве что ленивый фантаст. Но подобное в свое время сочиняли о каждом технологическом новшестве. Люди боялись паровозов, потому что они «распугают коров, отравят птиц дымом, а при скорости свыше 15 миль в час пассажиров разорвет на части». Вероятно, потомки тоже будут посмеиваться над нашими страхами, о которых узнают из фильмов и книг XX и XXI веков.

В этом году компания «Яндекс» запустила голосового помощника «Алиса». Новый сервис позволяет пользователю прослушивать новости и погоду, получать ответы на вопросы и просто общаться с ботом. «Алиса» иногда дерзит , порой кажется почти разумной и по-человечески саркастичной , но часто не может разобраться, о чём её спрашивают, и садится в лужу.

Всё это породило не только волну шуток, но и новый виток дискуссий о развитии искусственного интеллекта. Новости о том, чего добились умные алгоритмы, сегодня приходят чуть ли не каждый день, а машинное обучение называют одним из самых перспективных направлений, которому можно себя посвятить.

Чтобы прояснить главные вопросы об искусственном интеллекте, мы побеседовали с Сергеем Марковым, специалистом по искусственному интеллекту и методам машинного обучения, автором одной из самых сильных отечественных шахматных программ SmarThink и создателем проекта «XXII век» .

Сергей Марков,

специалист по искусственному интеллекту

Развенчивая мифы об ИИ

так что же такое «искусственный интеллект»?

Понятию «искусственный интеллект» в какой-то мере не повезло. Возникшее изначально в научной среде, оно со временем проникло в фантастическую литературу, а через неё - в поп-культуру, где претерпело целый ряд изменений, обросло множеством интерпретаций и в конце-концов было совершенно мистифицировано.

Именно поэтому мы часто слышим от неспециалистов примерно такие заявления: «ИИ не существует», «ИИ невозможно создать». Непонимание сути исследований, ведущихся в сфере ИИ, легко приводит людей и к другим крайностям - например, современным системам ИИ приписывают наличие сознания, свободной воли и секретных мотивов.

Давайте попробуем отделить мух от котлет.

В науке искусственным интеллектом называют системы, предназначенные для решения интеллектуальных задач.

В свою очередь, интеллектуальная задача - это задача, которую люди решают при помощи собственного интеллекта. Заметим, что в данном случае специалисты сознательно уходят от определения понятия «интеллект», поскольку до появления систем ИИ единственным примером интеллекта был интеллект человеческий, и определить понятие интеллекта на основе единственного примера - то же самое, что пытаться провести прямую через единственную точку. Таких прямых может оказаться сколько угодно много, а значит, спор о понятии интеллекта можно было бы вести столетиями.

«сильный» и «слабый» искусственный интеллект

Системы ИИ делятся на две большие группы.

Прикладной искусственный интеллект (также используют термин «слабый ИИ» или «узкий ИИ», в английской традиции - weak/applied/narrow AI) - это ИИ, предназначенный для решения какой-либо одной интеллектуальной задачи или их небольшого множества. К этому классу относятся системы для игры в шахматы, го, распознавания образов, речи, принятия решения о выдаче или невыдаче банковского кредита и так далее.

В противоположность прикладному ИИ вводят понятие универсального искусственного интеллекта (также «сильный ИИ», по-английски - strong AI/Artificial General Intelligence) - то есть, гипотетического (пока что) ИИ, способного решать любые интеллектуальные задачи.

Часто люди, не зная терминологии, отождествляют ИИ с сильным ИИ, из-за этого и возникают суждения в духе «ИИ не существует».

Сильного ИИ действительно пока не существует. Практически все успехи, которые мы наблюдаем в последнее десятилетие в области ИИ, - это успехи прикладных систем. Эти успехи нельзя недооценивать, так как прикладные системы в ряде случаев способны решать интеллектуальные задачи лучше, чем это делает универсальный человеческий интеллект.

Я думаю, вы заметили, что понятие ИИ - довольно широкое. Скажем, устный счёт - это тоже интеллектуальная задача, и это значит, что любая счётная машина будет считаться системой ИИ. А как насчёт счётов? Абака ? Антикитерского механизма ? Действительно, всё это формально хотя и примитивные, но системы ИИ. Однако обычно, называя какую-то систему системой ИИ, мы тем самым подчёркиваем сложность решаемой этой системой задачи.

Совершенно очевидно, что разделение интеллектуальных задач на простые и сложные - весьма искусственное, и наши представления о сложности тех или иных задач постепенно меняются. Механическая счётная машина была чудом техники в XVII веке, но сегодня людей, с детства сталкивающихся с куда более сложными механизмами, она уже не способна впечатлить. Когда игра машин в го или автомобильные автопилоты уже перестанут удивлять публику, наверняка найдутся люди, которые будут морщиться из-за того, что кто-то будет относить такие системы к ИИ.

«Роботы-отличники»: о способностях ИИ к обучению

Ещё одно забавное заблуждение - всенепременное наличие у систем ИИ способности к самообучению. С одной стороны, это совсем не обязательное свойство систем ИИ: есть множество удивительных систем, не способных самообучаться, но, тем не менее, решающих многие задачи лучше человеческого мозга. С другой стороны, некоторые люди просто не знают того, что самообучение - свойство, которые многие системы ИИ обрели ещё более полусотни лет назад.

Когда в 1999 году я писал свою первую шахматную программу, самообучение уже было совершенно общим местом в этой области - программы умели запоминать опасные позиции, подстраивать под себя дебютные варианты, регулировать стиль игры, подстраиваясь под соперника. Конечно, тем программам было ещё очень далеко до Alpha Zero . Тем не менее, даже системы, обучающиеся поведению на основе взаимодействия с другими системами в ходе экспериментов по так называемому «обучению с подкреплением», уже существовали. Однако по необъяснимой причине некоторые люди до сих пор думают, что способность к самообучению - это прерогатива человеческого интеллекта.

Машинное обучение, целая научная дисциплина, занимается процессами обучения машин решению тех или иных задач.

Существует два больших полюса машинного обучения - обучение с учителем и обучение без учителя.

При обучении с учителем у машины уже есть некоторое количество условно правильных решений для некоторого набора случаев. Задача обучения в таком случае заключается в том, чтобы научить машину на основе имеющихся примеров принимать правильные решения в других, неизвестных ситуациях.

Другая крайность - обучение без учителя . То есть машину ставят в ситуацию, когда правильные решения неизвестны, имеются только данные в сыром, неразмеченном виде. Оказывается, и в таких случаях можно добиться некоторого успеха. Например, можно научить машину выявлению семантических отношений между словами языка на основе анализа очень большого набора текстов.

Одна из разновидностей обучения с учителем - это обучение с подкреплением (reinforcement learning). Идея заключается в том, что система ИИ выступает в роли агента, помещённого в некоторую модельную среду, в которой она может взаимодействовать с другими агентами, например, с собственными копиями, и получать от среды некоторую обратную связь через функцию вознаграждения. Например, шахматная программа, которая играет сама с собой, постепенно подстраивая свои параметры и тем самым постепенно усиливая собственную игру.

Обучение с подкреплением - довольно широкая область, в ней применяют множество интересных методов, начиная от эволюционных алгоритмов и заканчивая байесовской оптимизацией . Последние достижения в области ИИ для игр как раз связаны с усилением ИИ в ходе обучения с подкреплением.

Риски развития технологий: стоит ли бояться «Судного дня»?

Я не отношусь к числу ИИ-алармистов, и в этом смысле я отнюдь не одинок. Например, создатель стэнфордского курса по машинному обучению Эндрю Ын сравнивает проблему опасности ИИ с проблемой перенаселения Марса.

Действительно, в будущем вполне вероятно, что люди колонизируют Марс. Также вероятно, что рано или поздно на Марсе может возникнуть проблема перенаселения, но не совсем понятно, почему мы должны заниматься этой проблемой уже сейчас? Согласны с Ыном и Ян ЛеКун - создатель свёрточных нейронный сетей, и его шеф Марк Цукерберг, и Йошуа Беньо - человек, во многом благодаря исследованиям которого современные нейронные сети способны решать сложные задачи в области обработки текстов.

Чтобы изложить мои взгляды на эту проблему, потребуется, вероятно, несколько часов, поэтому остановлюсь только на основных тезисах.

1. НЕЛЬЗЯ ОГРАНИЧИВАТЬ РАЗВИТИЕ ИИ

Алармисты рассматривают риски, связанные с потенциальным разрушительным воздействием ИИ, при этом игнорируя риски, связанные с попыткой ограничить или даже остановить прогресс в этой области. Технологическое могущество человечества возрастает чрезвычайно быстрыми темпами, что приводит к эффекту, который я называю «удешевлением апокалипсиса».

150 лет назад при всём желании человечество не могло нанести невосполнимого урона ни биосфере, ни себе как виду. Для реализации катастрофического сценария 50 лет назад необходимо было бы сконцентрировать всю технологическую мощь ядерных держав. Завтра для воплощения в жизнь глобальной техногенной катастрофы может хватить и небольшой горстки фанатиков.

Наша технологическая мощь растёт куда быстрее, чем способность человеческого интеллекта эту мощь контролировать.

Если на смену человеческому интеллекту с его предрассудками, агрессией, заблуждениями и ограниченностью не придёт система, способная принимать более взвешенные решения (будь то ИИ или, что я считаю более вероятным, технологически улучшенный и объединённый с машинами в единую систему человеческий интеллект), нас может ждать глобальная катастрофа.

2. создание сверхинтеллекта принципиально невозможно

Существует идея о том, что ИИ будущего всенепременно будет сверхинтеллектом, превосходящим людей даже сильнее, чем люди превосходят муравьёв. Боюсь в данном случае разочаровать и технологических оптимистов - наша Вселенная содержит целый ряд фундаментальных физических ограничений, которые, по всей видимости, сделают создание сверхинтеллекта невозможным.

Например, скорость передачи сигнала ограничена скоростью света, а на планковских масштабах появляется неопределённость Гейзенберга. Отсюда вытекает первый фундаментальный предел - предел Бремерманна, вводящий ограничения на максимальную скорость вычислений для автономной системы заданной массы m.

Другой предел связан с принципом Ландауэра , в соответствии с которым существует минимальное количество теплоты, выделяемое при обработке 1 бита информации. Слишком быстрые вычисления вызовут недопустимый разогрев и разрушение системы. В действительности, современные процессоры от лимита Ландауэра отделяет менее чем тысячекратное отставание. Казалось бы, 1000 - это довольно много, однако ещё одна проблема заключается в том, что многие интеллектуальные задачи относятся к классу сложности EXPTIME. Это означает, что время, необходимое для их решения, является экспоненциальной функцией от размерности задачи. Ускорение системы в несколько раз даёт лишь константный прирост «интеллекта».

В общем, есть очень серьёзные основания полагать, что сверхинтеллектуального сильного ИИ не получится, хотя, конечно, уровень человеческого интеллекта вполне может быть превзойдён. Насколько это опасно? Скорее всего, не очень.

Представьте себе, что вы внезапно начали думать в 100 раз быстрее остальных людей. Значит ли это, что вы легко будете способны уговорить любого прохожего отдать вам свой кошелёк?

3. мы беспокоимся совсем не о том

К сожалению, в результате спекуляций алармистов на страхах публики, воспитанной на «Терминаторе» и знаменитом HAL 9000 Кларка и Кубрика, происходит смещение акцентов в сфере безопасности ИИ в сторону анализа маловероятных, но эффектных сценариев. При этом реальные опасности ускользают из виду.

Любая достаточно сложная технология, претендующая на то, чтобы занять важное место в нашем технологическом ландшафте, безусловно приносит с собой специфические риски. Множество жизней было погублено паровыми машинами - на производстве, на транспорте и так далее - прежде чем были выработаны эффективные правила и меры по обеспечению безопасности.

Если говорить о прогрессе в области прикладного ИИ, можно обратить внимание на связанную с ним проблему так называемого «Цифрового тайного суда» . Всё больше и больше прикладных систем ИИ принимает решения по вопросам, затрагивающим жизнь и здоровье людей. Сюда относятся и медицинские диагностические системы, и, например, системы, принимающие в банках решения о выдаче или невыдаче кредита клиенту.

В то же время структура используемых моделей, наборы используемых факторов и другие детали процедуры принятия решения скрыты коммерческой тайной от человека, чья судьба находится на кону.

Используемые модели могут основывать свои решения на мнениях учителей-экспертов, допускавших систематические ошибки или имевших те или иные предрассудки - расовые, гендерные.

ИИ, обученный на решениях таких экспертов, будет добросовестно воспроизводить эти предрассудки в своих решениях. В конце концов эти модели могут содержать в себе специфические дефекты.

Этими проблемами сейчас мало кто занимается, поскольку, конечно, SkyNet, развязывающий ядерную войну, это, безусловно, куда более зрелищно.

Нейросети как «горячий тренд»

С одной стороны, нейронные сети - это одна из самых старинных моделей, применяющихся для создания систем ИИ. Появившиеся изначально в результате применения бионического подхода , они довольно быстро убежали от своих биологических прототипов. Исключением тут являются только импульсные нейронные сети (впрочем, пока не нашедшие широкого применения в индустрии).

Прогресс последних десятилетий связан с развитием технологий глубокого обучения - подхода, при котором нейронные сети собирают из большого количество слоёв, каждый из которых построен на основе определённых регулярных паттернов.

Помимо создания новых нейросетевых моделей важный прогресс был также достигнут в области технологий обучения. Сегодня нейронные сети учат уже не при помощи центральных процессоров компьютеров, а с использованием специализированных процессоров, способных быстро производить матричные и тензорные вычисления. Наиболее распространённый на сегодняшний день вид таких устройств - видеокарты. Впрочем, активно ведётся разработка ещё более специализированных устройств для обучения нейросетей.

В целом, безусловно, нейронные сети на сегодняшний день, - это одна из основных технологий в области машинного обучения, которой мы обязаны решению многих задач, ранее решавшихся неудовлетворительно. С другой стороны, конечно, нужно понимать, что нейронные сети не являются панацеей. Для некоторых задач они - далеко не самый эффективный инструмент.

Так насколько умны нынешние роботы на самом деле?

Всё познаётся в сравнении. На фоне технологий 2000-го года нынешние достижения выглядят настоящим чудом. Всегда найдутся люди, любящие побрюзжать. 5 лет назад они вовсю трындели о том, что машины никогда не выиграют у людей в го (ну или, по крайней мере, выиграют очень нескоро). Говорили о том, что машина никогда не сможет нарисовать с нуля картину, в то время как сегодня люди практически неспособны отличать картины, созданные машинами, от картин неизвестных им художников. В конце прошлого года машины научились синтезировать речь, практически неотличимую от человеческой, а в последние годы от музыки, создаваемой машинами, не вянут уши.

Посмотрим, что будет завтра. Я смотрю на эти области применения ИИ с большим оптимизмом.

Перспективные направления: где начать погружение в сферу ИИ?

Я бы посоветовал постараться на хорошем уровне освоить один из популярных нейросетевых фреймворков и один из популярных в области машинного обучения языков программирования (наиболее популярна на сегодняшний день связка TensorFlow + Python).

Овладев этими инструментами и имея в идеале крепкую базу в области математической статистики и теории вероятностей, следует направить свои усилия в ту сферу, которая будет наиболее интересна лично вам.

Интерес к предмету работы - один из самых важных ваших помощников.

Потребность в специалистах по машинному обучению существует в самых разных областях - в медицине, в банковском деле, в науке, на производстве, поэтому сегодня хорошему специалисту предоставлен как никогда широкий выбор. Потенциальные преимущества любой из этих отраслей мне представляются несущественными по сравнению с тем, что работа будет приносить вам удовольствие.