Опасные игры с искусственным интеллектом
Я очень горда тем, что мне выпала честь занять уникальное положение. Тот факт, что я стала первым роботом в мире, который подучил гражданство, является историческим событием. Робот София.
Завидуйте: я — гражданин!
Саудовская Аравия официально признала человекоподобного робота по имени София своим гражданином (или гражданкой?). Так эта исламская страна первая в истории предоставила «человеческий» статус искусственному интеллекту. София была создана компанией Hanson Robotics и получила гражданство на саммите Future Investment Initiative в Эр-Рияде.
Детали гражданства Софии не обсуждались. Пока неясно, как далеко зайдёт необычная шутка саудовских властей и какая «кибернетическая» система правил будет предложена для эксплуатации интеллектуальных механизмов.
Ещё дальше в киберюриспруденции продвинулся Евросоюз. Там недавно вполне серьёзно предложили придавать машинам с искусственным интеллектом некий статус электронной личности, предполагающий широкий круг прав и обязанностей. Похоже, что если Европарламент одобрит подобное законотворчество, то в будущем нас ждут фантасмагорические иски безумных роботов к их не менее безумным создателям.
Люди и искины
Попытки юридически очеловечить электронные устройства вызывают лишь смех у программистов и разработчиков «компьютерного железа». Разумеется, составление программ для той же Софии требует настоящего искусства и мощной вычислительной базы (то есть того же «железа»). Однако к искинам, или истинным роботам с искусственным интеллектом из романов Айзека Азимова, это не имеет ни малейшего отношения.
Пока мы видим лишь безудержный пиар руководства Hanson Robotics. Например, создатель Софии Дэвид Хэнсон заявляет, что его механическая леди обладает такими сугубо человеческими качествами, как креативность (творчество) и эмпатия (сострадание). Все это, конечно же, полная «кибернетическая реникса», или чепуха (если латиницу прочитать как кириллицу). Разумеется, подобные рекламные трюки с говорящим и якобы даже думающим роботом могут привлечь потенциальных инвесторов. Но на то, что эти инвестиции хотя бы на шаг приблизят нас к настоящему «роботизированному интеллекту», надежды очень мало…
Есть тут ещё пара очень характерных моментов. Во-первых, Хэнсон придал своему андроиду запоминающийся образ голливудской кинодивы Одри Хепберн. Во-вторых, в рекламных буклетах можно прочитать, что робот постоянно находится под внешним управлением. Это якобы исключает его самопроизвольную агрессию. На самом деле все элементарно просто — программное обеспечение Софии ограничено, и весь её креатив исходит от внешнего оператора. Специалисты легко увидели подобные трюки на пресс-конференции в Эр-Рияде, где оказалось, что София искусно уклоняется от непростых вопросов, касающихся её внутреннего мира и чувств к иным искинам. Вместо ответов на поставленные вопросы андроид пытался высмеять фразу знаменитого предпринимателя Илона Маска «Искусственный интеллект — это фундаментальная угроза человечеству». При этом София заявила:
— Вы слишком много слушали Илона Маска и смотрели слишком много голливудских фильмов. Не беспокойтесь, если вы будете хорошо ко мне относиться, я отвечу вам тем же. Относитесь ко мне как к умной системе ввода-вывода информации.
Что таится в глубине Сети
По словам всемирно известного физика-теоретика Стивена Хокинга, появление полноценного искусственного интеллекта может стать концом человеческой расы. Такой разум возьмёт инициативу на себя и станет сам себя совершенствовать со всё возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией. Мы не сможем тягаться со скоростью машин — и проиграем.
Сегодня многие эксперты выражают тревогу по поводу того, как робототехника органически войдёт в будущее сообщество людей и искинов. При этом раздаются самые различные и часто противоположные прогнозы, среди которых важен лишь один: даже «безмозглые» роботы будут постепенно заполнять человеческие рабочие места. Однако это лишь верхушка айсберга грядущих проблем.
Мировое сообщество кибернетиков в последнее время активно обсуждает «странный негативный тренд», особенно сильно выраженный в публицистике Илона Маска и Стивена Хокинга. Они даже сошлись в выводах, что появление настоящих искинов вполне может положить конец существованию самого человеческого рода. Подобные идеи «отрицательного кибермейнстрима» обычно основываются на ограниченной возможности развития мозга и соответственно умственных способностей человека, с одной стороны, и быстром росте памяти, быстродействия и миниатюризации машин — с другой.
Свои слова Хокинг с большой иронией иллюстрирует собственным примером, когда он, будучи прикованным к инвалидному креслу, использует самые передовые технологии для общения с внешним миром. При этом Хокинг отмечает: хотя существующие крайне примитивные формы искусственного интеллекта ещё очень далеки от искусственного разума, следует всегда опасаться, что человечество создаст то, что превзойдёт по уму своего создателя.
Профессор Хокинг также уверен, что с течением времени растёт снежный ком проблем вокруг Всемирной паутины. Свои опасения он подтверждает отчётом Британского центра по контролю за коммуникациями, в котором прямо указывается, что Интернет буквально нашпигован командными центрами террористов.
Очень опасные игры
Мнение Хокинга поддерживает американский инженер и предприниматель Илон Маск. Он известен как автор ряда инновационных программ, включая создание космической компании SpaceX, корпорации по производству электромобилей Tesla.
Маск уверен, что создание искусственного интеллекта станет самым значительным событием нашего времени, но это же приведёт к тому, что история человечества закончится. Этот выдающийся бизнесмен является автором многих амбициозных высокотехнологичных проектов. Он предостерегает, что не далее чем через пятилетие мы рискуем обнаружить скрытую угрозу в новом поколении искинов. Эту грядущую опасность Маск называет вызовом электронного демона, уверяя, что в недалёком будущем может начаться настоящий «кибернетический апокалипсис». Как и Хокинг, Маск предупреждает о крайней опасности неконтролируемых исследований в области искусственного интеллекта. Он также полностью согласен с проектом создания некоего международного контролирующего органа с полномочиями разрешать или запрещать те или иные исследования перспективных искинов.
Хокинга и Маска поддерживает и основатель Microsoft Билл Гейтс. Он также предполагает, что искины в самом скором времени превратятся в источник болезненных проблем для кибернетиков. По его словам, может возникнуть парадоксальная ситуация, когда западные либералы пролоббируют пакет законов, закрепляющих за искинами статус электронной личности. Следующим логичным шагом будет юридический запрет отключения искинов без их согласия…
С оптимистической точки зрения
Пессимистические прогнозы Хокинга и Маска оспаривает талантливый молодой разработчик веб-приложения Cleverbot Ролло Карпентер. Он стал широко известен на просторах Интернета после того, как программа Cleverbot успешно прошла очередной уровень теста Тьюринга. Его смысл состоит в том, чтобы определить по нескольким ответам на задаваемые вопросы, кто перед вами — человек или машина. Cleverbot ввёл в заблуждение многих пользователей Всемирной паутины, искусно имитируя ход человеческих рассуждений. Подобные тесты были давно блестяще описаны Филиппом Диком в романе «Бегущий по лезвию бритвы», который недавно в очередной раз был экранизирован Голливудом.
По мнению Карпентера, уже через несколько десятилетий электронный мозг будет практически неотличим от человеческого, и взамен традиционных тестов Тьюринга потребуются специальные эмпатические программы. Собственно, именно так и происходит в романе Дика.
При этом Карпентер уверенно считает, что искусственный интеллект при любых обстоятельствах окажется позитивной силой, без которой дальнейший прогресс человечества просто невозможен.
Карпентера горячо поддерживает один из ведущих сотрудников Гейтса, руководитель Microsoft Research, Эрик Хорвиц. Недавно он заявил, что смертельную угрозу в будущем «электронном сообществе искинов» видят только дилетанты, не разбирающиеся в принципах построения искусственного интеллекта.