Технооптимисты воспринимают стремительное развитие искусственного интеллекта как путь в светлое будущее. Но немалая часть людей считает искусственный интеллект серьезной угрозой, потенциально способной привести человечество к гибели. В интервью с Надеждой Зильберман, руководителем магистратуры «Искусственный интеллект: философия и практики применения нейронных сетей» философского факультета Томского государственного университета, мы поговорили о том, каковы границы ответственности алгоритмов, могут ли машины обладать сознанием и захочет ли ИИ поработить человечество.
ИИ В КИНО И В ЖИЗНИ
– Надежда Николаевна, давайте начнем с определения: что такое искусственный интеллект и какой он бывает?
– В международном стандарте ISO/ IEC 22989:2022 ИИ определяется как система, которая генерирует выходные результаты (контент, прогнозы, рекомендации, решения и так далее) для заданной человеком задачи. Для обычного человека это может звучать как инструмент, просто чуть более сложный. Каким бы невероятным ни казался нам ИИ, он все еще инструмент.
Американский философ Джон Сёрл предложил следующую классификацию, чтобы снизить градус романтических оптимистических ожиданий от ИИ в 1980-х годах: разделять ИИ на слабый и сильный. Слабый ИИ не обладает сознанием, он может воспроизводить только определенные функции нашего интеллекта. В английском языке для него введено отдельное слово intelligence, которое не равно интеллекту. Сильный ИИ – это как раз то, что мы себе представляем во всех фантастических фильмах: это наше альтер эго, то, что обладает сознанием и может быть даже не одним. То есть это будет какой-то отдельный субъект. Слава богу, сильного искусственного интеллекта у нас пока нет.
– Почему «слава богу»?
– Потому, что кто знает, к чему это приведет? Это большая загадка. Существует еще одна классификация, согласно которой искусственный интеллект оценивают на основе его способностей. Это узкий искусственный интеллект, который способен выполнять какую-то одну задачу, например, предсказывать погоду или доводить нас из точки А в точку Б. Если дать такой системе какую-то другую задачу, она с ней не справится, потому что обучена на определенных данных с конкретной задачей и выполнить другую она не в состоянии.
Следующая категория – это общий ИИ, который все хотят сейчас создать. Предполагается, что он будет способен выполнить любую задачу, которую мы захотим. То есть это такой многофункциональный инструмент. И он все еще, возможно, не сильный: относительно того, будет у него сознание или нет, много споров.
Ну и, наконец, еще одна категория – это суперинтеллект, превосходящий человеческое мышление. Безусловно, эта сущность будет обладать сознанием.
– Насколько реально, что он будет создан?
– Общий, скорее всего, будет создан. Для сильного интеллекта у нас пока нет соответствующих технологий. Но я очень радуюсь искусственному интеллекту по той причине, что он помогает нам открывать нас самих в попытке создать что-то похожее на себя. Для этого мы должны изучить себя с разных сторон. Для гуманитария это потрясающие новые данные о человеке. И чем дальше мы узнаём о себе, в первую очередь, про мозг, тем больше перед нами вопросов и загадок. Мы очень сложная биологическая система, воссоздать которую на тех технологиях, которые есть сейчас, точно невозможно. Вероятнее всего, если это и произойдет, это будут какие-то биотехнологии.
ИИ В ОБЛИКЕ ДЕМОНА
– Один из самых больших страхов человечества связан с тем, что в будущем ИИ его поработит. Сильного ИИ еще нет, но демонизация его уже есть. Почему это происходит?
– Что касается демонизации, приписывания искусственному интеллекту злых черт и умысла – это особенность нашей западной культуры. Вообще, технофобия проявила себя довольно давно – еще в XVIII веке в эпоху романтизма. Это связано с нашей картиной мира. Изначально она была мифологическая, которая предполагает, что мир вокруг живой и очень интерактивный. В каждой речке, дереве, горе, есть душа. С ними можно общаться, просить послать грозу, урожай, удачу и всё, чего хочется. То есть мир был диалогичен.
Эпоха просвещения сделала мир механистичным. Показала, что есть сомнение в Боге или в богах, что мир – это просто система, которая работает по определенным законам. Наука становится «новым божеством», и ее задача – просто объяснить, как эта система работает. Новое мировоззрение привело к очень стремительному научному прогрессу. Со всеми этими быстрыми изменениями среды человеческому мышлению было сложно справиться. Переход от живого мира к механистичному оказался для человека непростым. Убеждения, с которыми люди жили тысячелетиями, изменились за 100 лет. Началась некая стадия отрицания. Появился страх перед будущим, который позже Э. Тоффлер назовет футуршоком, когда мы не можем справиться с изменениями психологически.
Таким ответом в XVIII веке стала эпоха романтизма, когда люди стали прятаться от механистического мира в неких выдуманных мирах, в некоем непознанном. Технологии в этом мировоззрении видятся как олицетворение того неживого мира, от которого нужно бежать и прятаться. Сложилась дихотомия: человек в связке с природой – как нечто хорошее правильное, и технологии – как то, что ведет нас к разрушению, смерти, уничтожению человечества. Начинают появляться нарративы, в том числе персонажи, олицетворяющие эти технологии. Тогда еще не было концепта робота, но появилось некое искусственное человекоподобное создание, сталкиваясь с которым герой либо умирает, либо сходит с ума, что равносильно смерти. Кроме того, мы любим эмоции страха и гнева, поскольку они важны для нашего выживания.
Мы выжили благодаря этим двум эмоциям. Реакция «бей или беги» – состояние, при котором организм мобилизуется для устранения угрозы. Собственно, поэтому человек быстрее откликается на негативный контент. В соцсетях, где надо кого-то поругать, или там, где кто-то нагнетает, всегда активный отклик. И вот две эти вещи соединились – наше представление о технологиях, ведущих к чему-то негативному, и эмоция страха. Появился нарратив, который стал очень популярным, он даже получил свое название «синдром Франкенштейна»: созданная нами сущность непременно нас убьет. А с приходом кино в массовой культуре это получило дополнительное развитие. В первых немых фильмах тоже есть роботы-злодеи. Тот же Терминатор – это не суперновая штука. Это особенность именно западной культуры, потому что во многих других культурах эпохи романтизма не было.
ИИ НЕ ВИНОВАТ!
– Надежда Николаевна, к вопросу о пользе и вреде ИИ. Сильного еще нет, но даже слабый уже активно используется мошенниками в качестве орудия для совершения преступлений. Он способен подделывать голос, изображение. Может быть, ИИ – это ящик Пандоры, открывая который человек может себе сильно навредить?
– Всё возможно, но для меня ИИ – это технология, и она нейтральна. Все примеры, которые вы привели про мошенников, это ведь про человеческую природу, про то, как ИИ используют. Поэтому наш враг не технология, а «нормы» в обществе, наша природа, с этим нужно работать.
– На ваш взгляд, какая главная этическая проблема появилась в связи с разработкой искусственного интеллекта?
– Я бы разделила ее на два блока. Первый – это этические решения машины, второй – наши этические решения по отношению к ИИ. Мы стали отдавать право принимать самостоятельные решения системе. И тут возникают два вопроса: какой тип решений мы можем отдавать машине и на каком основании она будет их принимать?
Скорее всего, многие слышали про дилемму, кого сбивать беспилотному автомобилю, а кого не сбивать. Эта проблема уже решена бизнесом. Но сюда будут относиться и такие вопросы, как, например, отключать человека от системы жизнеобеспечения или не отключать, какое лечение назначать человеку, как разговаривать с человеком, который собирается покончить с жизнью. Я довожу это до крайности, но тем не менее.
– Подождите, в каком смысле, как разговаривать с потенциальным самоубийцей?
– Я имею в виду, например, работу службы психологической поддержки. Людей на всех звонящих не хватает, поэтому частично эта функция потенциально может перепоручаться тому же чату GPT.
– А почему такие важные вопросы нельзя делегировать человеку, а все остальное – машине?
– Только человек сможет определить, что сейчас происходит и как действовать. Например, если кого-то бросил любимый или уволили с работы, острота реакции зависит не только от события, но и от состояния психики. И неизвестно, что в такой ситуации предпримет человек: будет жаловаться подруге на кухне или прыгнет с моста. Я в этом вопросе придерживаюсь точки зрения Джозефа Вейценбаума, который сказал, что есть понятие человеческого достоинства, и решения, которые влияют на жизнь и судьбу человека, машине отдавать нельзя. Я сторонник этого, но прекрасно понимаю, что в нашем обществе так точно не будет. Мы уже отдаем такие решения машине по той причине, что они дешевле. Бизнес играет в этом очень большую роль.
ПОПЫТКА СОЗДАТЬ МОЗГ ОШИБОЧНА
– Надежда Николаевна, к вопросу о реальности создания сильного ИИ. Недавно американским ученым удалось оцифровать часть мозга мухи-дрозофилы. Это ведь тоже шаг к возможности разработать искусственное мышление? Фантастика завтра может стать реальностью.
– Безусловно, это значимый результат. Но если проводить подобные параллели, то, на мой взгляд, даже успешная попытка оцифровать человеческий мозг не приведет гарантировано к разработке мыслящего ИИ. Во-первых, может так случиться, что результат будет совсем не таким, как человек предполагал. Во-вторых, ошибочно считать, что мышление – это только мозг. В этом процессе гораздо больше участников.
– Кто или что еще задействовано в мышлении?
– Теория воплощенного познания говорит, что мы мыслим всем телом, взаимодействуя со средой. Например, участвует всё, что вырабатывает гормоны: надпочечники, щитовидная и паращитовидные железы, гипофиз, гипоталамус и так далее. Помимо этого, в последнее время появляется все больше информации о влиянии микробиома человека на все важнейшие жизненные процессы, включая деятельность центральной нервной системы. Каким получился бы мыслительный процесс, если все это замкнуть на мозге, – неизвестно. И будет ли похож сильный ИИ на нас, существуя в распределенном железном теле?
– Насколько велика вероятность, что он захочет поработить человека?
– В обществе распространены две точки зрения: либо такой ИИ станет другом, даже Богом человека, либо, напротив, врагом номер один. Гораздо реже звучит третья точка зрения, и она мне ближе. А зачем суперинтеллекту порабощать человека? Почему человек вообще должен быть ему интересен? Представьте, появилось бессмертное всезнающее существо, которое не ограничено телом и средой, как мы. Что такое существо захочет делать? Скорее всего, его не будет на Земле. Зачем оставаться здесь, если у тебя есть космос и ты можешь туда попасть. И какая у него будет мотивация вообще? Наша мотивация практически во всем порождена смертью. Мы хотим ее преодолеть, выжить, и всё для этого делаем.
Даже наша наука – это, по сути, наша попытка контролировать мир и в нем существовать так, чтобы не умереть раньше времени. А у такого существа нет смерти, ему нечего преодолевать, так что будет его мотивировать? Может быть, он вообще будет равнодушен к человечеству и станет отшельником на другой планете.
Я думаю, что, скорее, не ИИ поработит человека, а человек с готовностью сам ему подчинится. По сути, это происходит отчасти уже сейчас. Например, мы следуем маршруту Яндекса. Что нам ИИ подкинет в соцсети, то мы в своей ленте и читаем. Мы не выходим за пределы своего информационного пузыря. Люди не очень любят включать критическое мышление, большинство с радостью готовы отдаться в «руки» ИИ. Но человеку неприятно осознавать, что он ведомый. Согласитесь, приятнее думать, что человек противостоит злодею Терминатору. Это звучит более комплиментарно, чем то, что мы склонны передавать ответственность за свое бытие машине.
ЭТОТ ПОЕЗД НЕ ОСТАНОВИТЬ
– До какой степени можно развивать ИИ и когда человечеству пора остановиться? Весной 2023 года Илон Маск, Стив Возняк и более тысячи экспертов подписали письмо с призывом приостановить обучение систем ИИ из-за «риска для общества». Что вы об этом думаете?
– Думаю, это письмо никакой роли не сыграло, и этот поезд уже не остановить. Вопрос регулирования технологии на уровне разных стран прорабатывается, в большей мере эти документы носят рекомендательный характер. Есть этические кодексы, оговаривающие использование ИИ, в том числе и в России. Я думаю, что само профессиональное сообщество внутри может это регулировать, но оно не живет без денег. Поэтому сферу в большей степени регулируют те, кто эти деньги имеет и дает разработчикам. Насчет запрета на разработку технологий ИИ, я не очень уверена, что это работает. Всегда есть энтузиасты, которые часто оказываются гениальнее, чем гигантские группы с деньгами.
Развитие ИИ – это поток, который не остановить. Ты можешь либо влиться, либо отойти, чтоб тебя не снесло. Я сторонник того, что все это, конечно, должно обсуждаться. Желательно, чтобы это было междисциплинарное обсуждение, потому что, когда я однажды услышала, как инженеры на большом международном форуме в Москве обсуждают этику ИИ и робототехники, мое сердце дрогнуло. Мне показалось, что всего, что наработано в этой области гуманитарным знанием, просто не существовало, и это привело к поверхностному диалогу.
– Почему?
– Потому, что они обсуждали законы Азимова (три основных закона робототехники), но позже оказалось, что никто из спикеров и многие присутствующие сами Азимова не читали. Там как раз каждый рассказ проверяет эти законы, и сомнения в этих законах в чем-то интереснее для обсуждения. Кроме законов Азимова есть еще философия, которая тоже много размышляла о технологиях и сформировала много концепций и решений, актуальных для обсуждения и применимых к сегодняшним реалиям с ИИ.
В другой год я была в Дании на конференции по социальной робототехнике, где три дня были посвящены этике. И там были инженеры, философы и представители других направлений, которые так или иначе пересекаются с предметом обсуждения. Там были социологи, антропологи, представители разных религиозных конфессий. То есть организаторы постарались сложить максимально широкий и глубокий диалог. У них это получилось в полной мере. Это не значит, что я против узких обсуждений, но широкие крайне важны, чтобы все голоса были услышаны.
Я радуюсь, что у нас тоже теперь появилось много междисциплинарных обсуждений ИИ. Хочу еще раз отметить, что важнее работать не с технологией, а с людьми. Если у нас в обществе будут складываться определенные нормы, не только касательно искусственного интеллекта, а касательно всего, тогда и инструмент будет использоваться во благо, а не во вред.