Архив номеров НиТ

Робототехника будущего. От человекоподобия к защите прав роботов

Рубрика журнала:

Номер журнала НиТ: 

Люди и промышленные роботы на выставке
«Иннопром-2012»

В марте 2011 г. геминоиды и их создатели встретились в Киото (Япония)

Робот Эндрю из к/ф «Двухсотлетний человек»

Шоу «Ярмарка плоти», где устаревших роботов уничтожают перед ликующей
толпой (к/ф «Искусственный разум»)

Робособака «The SONY AIBO ERS-7 Entertainment Robot» компании «IRobot»


David Woods и Robin Murphy



Человечество активно обсуждает практическое взаимодействие с роботами уже более 70 лет со дня публикации трех законов робототехники Айзека Азимова (Isaac Asimov, «Хоровод», 1942 г.). Но законы эти введены исключительно для того, чтобы людям не был нанесен вред.

Точно так же ставят предохранители на электроприборы и оснащают безопасными рукоятками различные инструменты, устанавливают стоп-краны и прочие защиты. Законы робототехники — это не правила, а в большей степени человеческие инстинкты, и сформулированы они в таком виде именно для людей.

Для роботов законы — не постулаты, а модель поведения. Однако, когда мы говорим о законах Азимова, то понимаем, что все же это не законы в их правовом понимании, а лишь имитация, так как с юридической точки зрения они не существуют. Хотя в мире уже есть прецеденты их исследования и более детальной разработки:

В 2004 году SIAI (Институт сингулярности искусственного интеллекта, США) был открыт сайт asimovlaws.com, созданный для обсуждения этики искусственного интеллекта (далее ИИ) и возможных последствий принятия законов в реальной жизни. Эксперты считают, что законы робототехники Азимова небезопасны, поскольку могут побудить ИИ захватить власть на Земле, чтобы «защитить» людей от вреда.

В марте 2007 г. Правительство Южной Кореи начало разработку законодательного акта, призванного нормировать этические и этнические взаимоотношения между людьми и роботами — «Устав этических норм для роботов» (Robot Ethics Charter) для разработчиков и пользователей.

В марте 2012 г. робототехники США призвали мировое научное сообщество начать разработку «Этического кодекса роботов», который будет регулировать деятельность как бытовых, так и боевых роботов. При этом во всех случаях основой документов становятся именно законы Азимова, призванные сделать роботов этичными. Но тут надо не забывать т.н. «классический случай», когда власти будут скрывать информацию о создании механизмов, лишенных каких-либо законов ради выполнения сверхмиссий или военных сверхзадач. И это реальность.

Также реальность и то, что поведение робота зависит от того, как именно программист заложил Три Закона. Роботы сами по себе не могут быть ни хорошими, ни плохими. Мы сами делаем их такими. Пока робот воспринимается нами как вещь, которую можно купить, разобрать или отключить.
Но уже в ближайшие десятилетия революция в создании ИИ может поставить человечеству вопрос: будут ли сами роботы считать себя вещами и творениями человека или станут воспринимать себя равными нам личностями?

Ну признайтесь: нравится продукция фирмы Apple? неужели не хотелось классного смартфона или планшета? А вы не откажите себе в этом удовольствии и посетите портал "Мир Apple". Там есть все: от батареек и смартфонов до мониторов и планшетов.

Искусственный интеллект и нравственные роботы

Понятие «робот» используется очень широко. Этим термином обозначают практически все технические приборы и устройства с компьютерным управлением, которые относительно самостоятельно, т.е. независимо от человека, перемещаются в пространстве и выполняют за нас различные работы. И все чаще понятие «робот» становится аналогом понятия «искусственный интеллект» — произошло сращивание понятий.

Не только фантасты, но и ученые дают прогноз о том, что к 2030 г. роботы могут получить очень мощный ИИ, по развитию не намного отстающий от человеческого мозга, а к 2050 г. ИИ не только дойдет до уровня мышления человека, но и превзойдет его. При всем этом вопросы «что такое интеллект» и «самосознание человека» выяснены не до конца и также требуют более глубокого изучения, особенно при возможности перехода человеческого сознания в киберпространство.

Подойти к таким рубежам необходимо крайне серьезно, поэтому тот же SIAI исследует проблемы глобального риска, которые может создать будущий сверхчеловеческий ИИ, если его не запрограммировать на дружественность к человеку. Вероятно, необходим принцип, призванный устанавливать предел роста ИИ, дальше которого роботы не должны развиваться, дабы не иметь возможности получить превосходство над человеком. Для этого существует такая дисциплина, как машинная этика и понимание того, что роботы должны быть этичными.

И все же человеческий страх перед автономными мыслящими машинами связан с неуверенностью, что они будут вести себя должным образом. Огромное количество научно-фантастических произведений порождает такие страхи. Значит, создание этических ограничителей для роботов при помощи машинной этики может заставить общество лучше воспринимать исследования в области ИИ без боязни будущего.

Когда в обыденной жизни мы говорим о роботах, то подразумеваем некие человекоподобные механизмы, андроидов или геминоидов, обладающих не только внешним сходством, но и «чертами», присущими людям. Тем более, что мы действуем вполне по-библейски: как и Господь, творим создания по образу своему и подобию. В фильмах «Искусственный разум» и «Я — робот» речь шла о производстве именно нравственных роботов, способных при помощи искусственных нейронных сетей переживать, учиться и чувствовать. Роботы с ИИ будут оснащены искусственными рецепторами, способными передавать боль, страдания, переживания, оценивать ущерб состояния (здоровья) в случае неисправности (болезни). Здесь «человекоподобность» понимается не только и не столько как внешний вид, а как «человекоподобность» в глубоком смысле, и это понятие охватывает также человеческое сознание.

Уже сегодня созданы роботы-медики, которые не только напоминают пациентам о приеме лекарств, но и принимают самостоятельные решения о дозах препаратов, руководствуясь собственными представлениями о благополучии пациента.

Робот и в самом деле может принимать лучшие этические решения, чем человек. Люди по природе пристрастны и часто действуют по наитию, неалгоритмично. «Робот разумный» («Robo Sapiens») сможет избежать таких ошибок и даже в какой-то мере может стать более человечным, чем сам человек. Те же пресловутые три закона не могут в полной мере применяться к нравственному, этическому роботу. Можно сказать, что Азимов подверг сомнению свои же законы в рассказе «Двухсотлетний человек».
Главный герой — робот Эндрю — борется за свою независимость, хочет добиться признания себя человеком и получает его в суде. Азимову удалось показать, насколько робот, способный вести себя нравственно, достоин свободы, и его нравственное чувство превосходит поведение окружающих людей, поддающихся силе эмоций. Если у Эндрю и был сбой этических принципов, то он касался собственной судьбы, когда сам робот не признавал своего права быть свободным, прежде чем получил его официально в суде.

Итак, не допустить вред человеку со стороны машины позволит создание изначально нравственных роботов. Однако нам надо отдавать себе отчет, что общество все-таки не сможет удержать всех изобретателей от разработки разумных автономных машин, даже если захочет запретить это. Также нет гарантии, что человеком не будут созданы роботы «безнравственные», т.е. попросту человекоубийцы.

Мы начинаем бояться роботов, так же как боимся медведей или акул, однако, бояться роботов и животных необходимо в крайне низкой степени. Наиболее опасен именно человек. В мире фиксируется небольшое количество нападений акул на людей. Человек убивает все живое вокруг без опаски и тот же человек способен создать из одного и того же ИИ сиделку для больных или терминатора.

И все же здесь речь идет не о законах роботототехники Азимова по защите людей от роботов, иногда противоречивых и не всегда ясных в реальной жизни, а наоборот, о защите в обозримом будущем дружелюбных и этических роботов, оснащенных ИИ, от людей.

От защиты человека от роботов к защите роботов от человека

Если в мире начались разработки норм поведения роботов по отношению к человеку и правил сосуществования человека и машины, то законы о защите роботов также в скором времени могут стать реальностью. Такие документы будут эволюционировать. Вначале роботы будут определяться как вещи или материальные ценности, однако, с появлением мощного ИИ, они будут становиться частью человеческого общества и… потребуют свои права и их защиту.

Число роботов в мире исчисляется миллионами. На данный момент их общее количество неизвестно, но в 2008 г. согласно обзору Международной Федерации Робототехники. (International Federation of Robotics) в мире существовало более 6,5 млн. роботов. Они образуют и занимают отдельную нишу: технологическую, бытовую и социальную. Тот же Азимов в 1986 г. на фоне всплеска робототехники в романе «Роботы и Империя» дополнил свои законы и предложил Нулевой Закон: «Робот не может причинить вреда человеку, если только он не докажет, что в конечном счете это будет полезно для всего человечества». В совокупности с третьим законом возникает возможность самозащиты робота от посягательства человека, причиняющего вред роботу.

Но может ли робот, согласно Азимову, защищаться от человека, совершающего какие-либо вредоносные действия против него? Может ли оказывать силовое воздействие? Как робот может наказать обидчика? Согласно законам Азимова— никак: робот будет стоять и смотреть, как человек его портит. Представим, что человек умышленно повреждает робота с ИИ, и робот это знает (ощущает, анализирует). Если человек бьет робота, то робот может закрыться от удара или перехватить предмет, которым его бьют, — допустима пассивная защита, т.к. человеку не причиняется ущерба и законы не нарушаются. Но можно возразить: не допустима никакая защита, ведь робот — вещь, а вещь не может защищаться. Если человек хочет нанести вред, значит он знает, что делает. Максимум, что ему грозит — он должен будет возместить стоимость поврежденного робота. Но будет ли считать себя робот с ИИ вещью? Сами разработки ИИ в скором времени приведут к тому, что ИИ наделят зачатками личности, и робот будет иметь сознание.

Когда роботы станут обыденностью, у них могут появиться сложные иерархии ценностей, наподобие человеческих. В частности, они должны будут думать о собственной способности выполнять свои прямые обязанности: например, вовремя заряжать батареи или просить об этом человека, если такая процедура зависит от последнего.
Интересна идея П.Мюллера, представителя Мюнхенского перестраховочного общества в РФ, Украине и Беларуси. Он видит роботов и ИИ как новый страховой продукт третьего тысячелетия высокой стоимости. С его слов, роботы стали массовым явлением во всех областях производства и общественной жизни и постепенно освобождаются от непосредственного управления человеком. Автономность роботов приведет к необходимости защищаться. Их будут похищать, разбирать на запчасти и т.д. Но дело тут в другом — чтобы предотвратить такие преступления, роботов необходимо персонализировать. Иными словами, будет введена всеобщая паспортизация. Только, в отличие от паспортов собак и кошек, это будут государственные реестры, как например базы владельцев автомобилей. Отметим интересный факт: владельцы робо-собак всерьез относятся к ним, как к живым. Понятно, что AIBO или NeoDrive для этого и созданы, похожи на животных, и опасений это не вызывает. Настораживает другое. По данным компании iRobot, опубликованным в 2007 г., более 50% хозяев пылесосов Roomba дают ему имена или клички, относятся к ним, как к полноценным членам семьи, а некоторые разговаривают с ними, как с животными и даже берут с собой в отпуск.

Люди самостоятельно превращают механизмы в живых существ и наделяют их такими же свойствами. И это только начало долгосрочного процесса «очеловечивания» роботов и ИИ. Не приведет ли это к тому, что в конечном итоге человечество, создавая ИИ близкий к собственному, само наделит роботов правами, а не только будет требовать исполнения обязанностей?

В 2009 г. профессор Университета штата Огайо (Ohio State University) Дэвид Вудс (David Woods) и профессор Робин Мерфи (Robin Murphy) из Техасского A&M университета (Texas A&M University) составили новый вариант законов Азимова. В их интерпретации Третий закон гласит: «Роботы должны иметь достаточную самостоятельность для самозащиты в той степени, которая допускает внешний контроль и не противоречит Первому и Второму законам». Их же новый Первый закон предполагает, что люди сами конструируют роботов. Второй допускает ограниченную способность роботов понимать приказы людей и реагировать на набор команд от строго заданного количества человек. Третий закон наиболее комплексный — роботы должны иметь независимость, чтобы уметь действовать в реальной ситуации. Они будут принимать решения для защиты себя, но также должны уметь передавать управление людям, когда это соответствует моменту, то есть проявлять гибкость. И снова речь идет об этических и разумных роботах.

Как ни странно, исследователи утверждают, что у роботов будет возможность обманывать людей. Объясняется это тем, что такое поведение встречается у животных и означает наличие истинного социального интеллекта, который позволяет ужиться в обществе. Таким образом, понимая такую возможность, мы всячески интегрируем роботов в человеческое общество.

Очень интересен материал из Абсурдопедии, в котором перефразированы все четыре закона Азимова:
1. Роботехник не может причинить вред роботу или своим бездействием допустить, чтобы роботу был причинен какой-либо вред.
2. Роботехник должен совершенствовать конструкцию робота, если это не противоречит Первому Закону.
3. Роботехник должен защищать себя от посягательств других людей, если это не противоречит Первому и Второму Закону.
4. Роботехник не может совершить действие, причиняющее вред роботечеству и роботехничеству, или своим бездействием допустить, чтобы сообществу был причинен вред.
В этих абсурдных для сегодняшнего времени законах права робота и робото-сообществ превыше прав роботехника. Но кто может с точностью сказать, не станет ли такое возможным к концу века?

Законы будущего для роботов

Первый яркий прецедент защиты прав роботов появился в 1999 г. в США. Тогда было создано Американское общество за предотвращение жестокости по отношению к роботам (American Society for the Prevention of Cruelty to Robots, www.aspcr.com). Миссия — гарантировать права всех искусственно созданных разумных существ. По мнению ASPCR, любое разумное существо (искусственно созданное или нет) имеет права, обеспеченные его Созданием, — право на существование, независимость и стремление к знаниям.

Не исключено, что подобные организации будут появляться по всему свету. Самыми роботизированными странами являются Япония, США и страны Евросоюза. Именно на территории этих государств можно спрогнозировать появление законов о защите роботов и создание Хартий или Конвенций об их правах. Не исключено, что и наша Госдума образца 2045 года примет ФЗ «О защите прав роботов», в котором будет прописана квалификация вреда, причиненного роботу. Звучать это будет примерно так: «Вред определяется в зависимости от степени его тяжести (тяжкий вред, средней тяжести вред и легкий вред) на основании квалифицирующих признаков и в соответствии с механическими (инженерными, программными) критериями определения степени тяжести вреда, причиненного состоянию робота. Причинение вреда человеком или роботом другому роботу является основанием возникновения обязанности возместить причиненный вред».

Может быть, в законе будут прописаны такие вопросы, как исправление ошибок на программном уровне, без отключения от питания; замена запасных частей в состоянии сна или гибернации и т.д. Такие законодательные акты станут трудом не столько юристов и правозащитников, сколько кибернетиков, инженеров, механиков, программистов и всех, так или иначе участвующих в создании ИИ.

По данным ООН, к 2020 г. роботы будут не только пылесосить полы и стричь лужайки, но и охранять дома, работать пожарными, обучать пожилых людей овладению новой сложной техникой, принимать участие в воспитании детей и т.п. И это только о применении роботов в быту. Научные эксперименты, военные нужды, медицина и иные направления применения роботов делают прогресс их развития неизбежным. Стало быть, и законодательство будет развиваться в соответствии с нуждами прогресса. А согласно мнению известного британского футуролога из British Telecom Яна Пирсона, уже в 2020 г. электронные формы жизни получат конституционные права во многих государствах.

И пусть человечеством будут приняты законы о защите прав роботов, в этом нет ничего угрожающего, важнее другое — чтобы принимали подобные законы именно люди как доминирующий интеллект на планете. Иначе нас ждет будущее, описанное Ф. Чиландером (Fredric Kilander) в рассказе «Судебный процесс», о том, как роботы судили последнего человека, проживавшего в городе за «убийство» робота.