Lingwowed

На протяжении столетий людей ужасала возможность того, что созданные ими вычислительные машины могут перехитрить их, в чем-то превзойти или лишить рабочих мест. Этот страх часто обыгрывался в литературе, начиная со средневековой еврейской легенды о Големе, глиняном истукане, ожившем, когда ему в рот вложили надпись с именем Бога, до HAL — взбунтовавшегося компьютера из «Космической одиссеи 2001». Но когда в 1950-х гг. возникла такая отрасль прикладной науки, как «искусственный интеллект» («Artificial intelligence» — AI), создалось впечатление, что научная фантастика грозит обернуться пугающей реальностью. Когда компьютер высчитывает число «пи» до миллионного знака после запятой или начисляет зарплату сотрудникам фирмы, то нетрудно признать его право на существование, но вдруг обнаружилось, что компьютеры еще и доказывают логические теоремы и играют в шахматы на высоком уровне. В последующие годы появились компьютеры, которые могли обыграть любого, за исключением гроссмейстера, и программы, превосходившие многих экспертов, когда речь шла о рекомендациях — какие подобрать лекарства при бактериальных инфекциях или куда инвестировать пенсионные фонды. А раз компьютеры решали такие требующие умственного напряжения задачи, казалось, дело лишь во времени — и СЗРО или Терминатора можно будет заказать по каталогу. Единственное, что оставалось, это запрограммировать компьютеры на выполнение простых заданий. Согласно легенде, в 1970-х гг. Марвин Минский, один из создателей AI, дал своему аспиранту такое задание на лето — написать «зрительную программу».

Но домашние роботы все еще оставались в области фантастики. Главный урок, извлеченный разработчиками AI после тридцати пяти лет работы состоял в том, что сложные проблемы просты, а простые сложны. То, что доступно разуму четырехлетнего ребенка и для нас является само собой разумеющимся — узнать знакомое лицо, поднять карандаш, пересечь комнату, ответить на вопрос — в действительности является решением одних из самых сложных технологических проблем. Пусть вас не вводят в заблуждение роботы на конвейере в рекламных роликах автомобилей: все, чем они занимаются — это сварка и распыление краски — а такие задачи не требуют обязательного присутствия неуклюжего мистера Магу, который бы за чем-то наблюдал, что-то держал или что-то куда-то клал. Если вы хотите поставить в тупик систему искусственного интеллекта, задайте ей следующие вопросы: «Что больше — Чикаго или хлебница?», «Носят ли зебры нижнее белье?», «Может ли пол подняться и покусать вас?», «Если Сьюзен идет в магазин, идет ли ее голова вместе с ней?». Большинство страхов перед автоматическими системами основано не на том, что действительно должно вызывать опасения. Это аналитикам финансового рынка, инженерам нефтехимической отрасли и членам судейской коллегии стоит опасаться, что с появлением нового поколения разумных машин они потеряют работу и будут вытеснены последними. Садовники, портье и повара могут в ближайшие десятилетия быть уверены, что останутся на своих местах.

Понимание предложения — это одна из вышеупомянутых тяжелых легких проблем. Чтобы общаться с компьютерами нам все еще приходится учить их языки, сами они недостаточно умны, чтобы выучить наши. Вообще, это слишком легко — думать, что компьютеры понимают больше, чем они на самом деле способны понять.

Недавно был учрежден ежегодный конкурс, какая компьютерная программа лучше всего введет в заблуждение пользователя, заставив думать, что он общается с человеком. Целью этого конкурса на премию Лобнера (Loebner Prize) было воплотить предположение, сделанное Аланом Тьюрингом в знаменитой работе 1950 г. Он предложил использовать для ответа на философский вопрос «Может ли машина мыслить?» имитационную игру, где арбитр разговаривает с человеком через один терминал и с компьютером, запрограммированным на имитацию человека — через другой. Если арбитр не может отличить, кто где, то, по мысли Тьюринга, нет оснований отрицать, что компьютер может думать. Если отбросить философию, то для конкурсной комиссии было очевидно, что ни одна программа не сможет и близко подойти к выигрыванию премии в 100 000 долларов, поэтому ее размер был уменьшен до 1 500 долларов, что было честнее по отношению к машине. Каждый из арбитров должен был придерживаться одной темы беседы, выбранной программистом или конкурирующим с компьютером человеком, кем бы он ни был, и арбитру не позволялось использовать никаких «хитростей или уловок», например, повторять вопрос десять раз или спрашивать, носят ли зебры нижнее белье; беседа должна была быть «естественной». После примерно семи минут общения с каждой из нескольких программ и их соперников-людей, арбитры указали на то, что все люди более «человекоподобны», чем любой из компьютеров. Тем не менее, около половины арбитров спутали выигравшую программу с человеком.