Проблемы искусственного интеллекта

 

     

     2. Проблема определения  искусственного интеллекта 

     Выразить  суть интеллекта в каком-то одном  определении представляется исключительно  сложной, практически безнадежной задачей. Интеллект есть нечто ускользающее, не вмещающееся в установленные языком смысловые рамки. Поэтому ограничимся просто тем, что приведем ряд известных определений и высказываний об интеллекте, которые позволят представить себе «объем» этого необычного понятия.

     Некоторые специалисты за интеллект принимают  способность рационального, мотивированного  выбора, в условиях недостатка информации; способность решать задачи на основе символьной информации; способность  к обучению и самообучению.

     Достаточно  емкие и интересные определения  интеллекта даны в английском словаре  Вебстера и Большой Советской  Энциклопедии. В словаре Вебстера: «интеллект – это: а) способность  успешно реагировать на любую, особенно, новую ситуацию путем надлежащих корректировок поведения; б) способность понимать связи между фактами действительности для выработки действий, ведущих к достижению поставленной цели». В БСЭ: «интеллект… в широком смысле – вся познавательная деятельность человека, в узком смысле – процессы мышления, неразрывно связанные с языком как средством общения, обмена мыслями и взаимного понимания людей». Здесь интеллект прямо связывается с деятельностью и языком коммуникации.

     По  большому счету больших разногласий  в этом вопросе нет. Интереснее другое: критерии, по которым можно однозначно определить разумный, мыслящий, интеллектуальный субъект перед нами или нет.

     Известно, что в свое время А. Тьюринг предложил в качестве критерия, определяющего, может ли машина мыслить, «игру в имитацию». Согласно этому критерию, машина может быть признана мыслящей, если человек, ведя с ней диалог по достаточно широкому кругу вопросов, не сможет отличить ее ответов от ответов человека. (Более полное описание теста в Приложении)

     Однако  мысленный эксперимент «Китайская комната» Джона Сёрля (Описание эксперимента в Приложении) – аргумент в пользу того, что прохождение теста Тьюринга не является критерием наличия у машины подлинного процесса мышления. Можно и дальше приводить примеры критериев, по которым «машинный мозг» можно считать способным к мыслительной деятельности и тут же находить им опровержения.

     Единого ответа на вопрос чем является искусственный  интеллект, не существует. Почти каждый автор, пишущий книгу об ИИ, отталкивается  в ней от какого-либо определения, рассматривая в его свете достижения этой науки. Эти определения можно свести к следующим:

     Искусственный интеллект – это личность на неорганическом носителе (Чекина М.Д.).

     Искусственный интеллект – это область изучение разумного поведения (у людей, животных и машин) и попытки найти способы моделирования подобного поведения в любом типе искусственно созданного механизма (Блай Уитби).

     Искусственный интеллект – это экспериментальная  философия (В. Сергеев).

     Сам же термин «искусственный интеллект» – ИИ – AI – artificial intelligence был предложен в 1956 г. на семинаре с аналогичным названием в Дартсмутском колледже (США). Семинар был посвящен разработке методов решения логических, а не вычислительных задач. В английском языке данное словосочетание не имеет той слегка фантастической антропоморфной окраски, которую оно приобрело в довольно неудачном русском переводе. Слово intelligence означает «умение рассуждать разумно», а вовсе не «интеллект», для которого есть английский аналог: intellect (Т.А. Гаврилова).

     Так же существуют термины «сильный» и «слабый» искусственный интеллект.

     Термин  «сильный искусственный интеллект» ввел Джон Сёрль, такая программа  будет не просто моделью разума; она в буквальном смысле слова  сама и будет разумом, в том  же смысле, в котором человеческий разум – это разум.

     «Слабый искусственный интеллект» рассматривается  лишь как инструмент, позволяющий  решать те или иные задачи, которые  не требуют полного спектра человеческих познавательных способностей. 

 

     

     3. Проблема определения задач искусственного интеллекта 

     Следующим философским вопросом ИИ является цель создания. В принципе все, что мы делаем в практической жизни, обычно направлено на то, чтобы больше ничего не делать. Однако при достаточно высоком  уровне жизни человека на первые роли выступает уже не лень, а поисковые инстинкты. Допустим, что человек сумел создать интеллект, превышающий свой собственный. Что теперь будет с человечеством? Какую роль будет играть человек? Для чего он теперь нужен? И вообще, нужно ли в принципе создание ИИ?

     По-видимому, самым приемлемым ответом на эти  вопросы является концепция «усилителя интеллекта» (УИ). Здесь уместна аналогия с президентом государства –  он не обязан знать валентности ванадия  или языка программирования Java для  принятия решения о развитии ванадиевой промышленности. Каждый занимается своим делом – химик описывает технологический процесс, программист пишет программу; в конце концов, экономист говорит президенту, что вложив деньги в промышленный шпионаж, страна получит 20%, а в ванадиевую промышленность – 30% годовых. При такой постановке вопроса любой человек сможет сделать правильный выбор.

     В данном примере президент использует биологический УИ – группу специалистов с их белковыми мозгами. Но уже  сейчас используются и неживые УИ – например мы не могли бы предсказать погоду без компьютеров, при полетах космических кораблей с самого начала использовались бортовые счетно-решающие устройства. Кроме того, человек уже давно использует усилители силы (УС) – понятие, во многом аналогичное УИ. В качестве усилителей силы ему служат автомобили, краны, электродвигатели, прессы, пушки, самолеты и многое-многое другое.

     Основным  отличием УИ от УС является наличие  воли. Ведь мы не сможем себе представить, чтобы вдруг серийный «Запорожец»  взбунтовался, и стал ездить так, как ему хочется. Не можем представить именно потому, что ему ничего не хочется, у него нет желаний. В тоже время, интеллектуальная система, вполне могла бы иметь свои желания, и поступать не так, как нам хотелось бы. Таким образом перед нами встает еще одна проблема – проблема безопасности. 

 

     

     4. Проблема безопасности 

     Философские проблемы создания искусственного интеллекта можно разделить на две группы, условно говоря, «до и после  разработки ИИ». Первая группа отвечает на вопрос: «Что такое ИИ, возможно ли его создание?» На них я постаралась ответить в своей работе. И вторая группа (этика искусственного интеллекта) задаётся вопросом: «Каковы последствия создания ИИ для человечества?», которая приводит нас к проблеме безопасности.

     Данная  проблема будоражит умы человечества еще со времен Карела Чапека, впервые употребившего термин «робот». Большую лепту в обсуждение данной проблемы внесли и другие писатели-фантасты. Как самые известные можно упомянуть серии рассказов писателя-фантаста и ученого Айзека Азимова, а так же довольно свежее произведение – «Терминатор». Кстати именно у Айзека Азимова мы можем найти самое проработанное, и принятое большинством людей решение проблемы безопасности. Речь идет о так называемых трех законах роботехники.

     1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

     2. Робот должен повиноваться командам, которые ему дает человек, кроме  тех случаев, когда эти команды  противоречат первому закону.

     3. Робот должен заботиться о своей безопасности, насколько это не противоречит первому и второму закону.

     На  первый взгляд подобные законы, при  их полном соблюдении, должны обеспечить безопасность человечества. Однако при  внимательном рассмотрении возникают  некоторые вопросы.

     Интересно, что будет подразумевать система ИИ под термином «вред» после долгих логических размышлений? Не решит ли она, что все существования человека это сплошной вред? Ведь он курит, пьет, с годами стареет и теряет здоровье, страдает. Не будет ли меньшим злом быстро прекратить эту цепь страданий? Конечно можно ввести некоторые дополнения, связанные с ценностью жизни, свободой волеизъявления. Но это уже будут не те простые три закона, которые были в исходнике.

     Следующим вопросом будет такой. Что решит  система ИИ в ситуации, когда спасение одной жизни возможно только за счет другой? Особенно интересны те случаи, когда система не имеет полной информации о том, кто есть кто…

     Так что можно с уверенностью сказать, что опасения многих людей, в том  числе и ученых, не беспочвенны. И определенно следует именно сейчас начинать продумывать эти вопросы, до того, как получится создать полноценный «машинный интеллект», чтобы обезопасить человечество от возможного вреда или даже истребления, как конкурирующей, в лучшем случае, или просто ненужной биологической разновидности.

 

      5. Проблема выбора пути к созданию искусственного интеллекта 

     Тест  Тьюринга

     С 1991 года проводятся турниры программ, пытающихся пройти тест Тьюринга. В  интернете можно найти и посмотреть историю турниров, узнать о правилах, призах и победителях. Пока ещё эти программы (боты) крайне малоразумны. Всё, что они делают – это применяют заранее подсказанные человеком правила. Осмыслить разговор боты даже не пытаются, в основном совершают попытки «обмануть» человека. Создатели закладывают в них ответы на наиболее часто задаваемые вопросы, стараются обойти распространенные ловушки. Например, внимательно следят, а не задаст ли судья один и тот же вопрос дважды? Человек в такой ситуации сказал бы что-то вроде: «Эй, ты уже спрашивал»! Значит, разработчик добавит боту правило тоже так поступать. В этом направлении представляется очень маловероятным, что появится первый ИИ. 

     Компьютерные  шахматисты

     Об  этих программах слышали многие. Впервые  чемпионат мира по шахматам между компьютерными программами прошел в 1974 году. Победителем стала советская шахматная программа «Каисса». Не так давно компьютер обыграл и Гарри Каспарова. Что же это – несомненный успех?

     О том, как играют компьютерные шахматисты, написано очень много. Расскажу совсем вкратце. Они просто перебирают множество вариантов. Если я подвину эту пешку сюда, а противник сходит слоном вот сюда, а я сделаю рокировку, а он подвинет вот эту пешку… Нет, такая позиция невыгодна. Не буду делать рокировку, а вместо этого посмотрю, что случится, если я подвину эту пешку сюда, а компьютер сходит слоном вот сюда, а я вместо рокировки подвину пешку еще раз, а он…

     Компьютер ничего не изобретает сам. Все возможные  варианты подсказаны настоящими обладателями интеллекта – талантливыми программистами и шахматистами-консультантами… Это не менее далеко от создания полноценного электронного интеллекта. 

     Футбол  роботов

     Это очень модно. Этим занимаются многие лаборатории и целые факультеты ВУЗов по всему миру. Проходят десятки  чемпионатов по разным разновидностям этой игры. Как говорят организаторы турнира RoboCup, «Международным сообществом специалистов по искусственному интеллекту задача управления роботами-футболистами признана одной из важнейших».

     Очень может быть, что, как мечтают организаторы RoboCup, в 2050 году команда роботов и впрямь обыграет в футбол команду людей. Только их интеллектуальность вряд ли к этому будет иметь какое-то отношение. 

     Турниры программистов

     Недавно фирма Microsoft проводила турнир под  названием «Террариум». Программистам предлагалось создавать искусственную жизнь, не больше и не меньше. Это, наверное, самое известное из подобных соревнований, а вообще их проводится очень много – энтузиасты-организаторы с завидной регулярностью предлагают создавать программы, играющие то в войну роботов, то в колонизацию Юпитера. Бывают даже соревнования по выживанию среди компьютерных вирусов.

     Что же мешает хотя бы этим проектам служить  созданию настоящего ИИ, который в  будущем сможет и воевать, и Юпитер колонизировать? Одно простое слово – непродуманность. Даже могучие умы Microsoft не смогли придумать правила, в которых сложное поведение выгодно. Что уж говорить об остальных. Что ни турнир – а все побеждает одна и та же тактика: «чем проще – тем лучше»! Кто победил в «Террариуме»? Наши соотечественники. А что они сделали? Вот полный перечень тех правил, по которым жило самое жизнеспособное виртуальное травоядное турнира;