2–4 марта 2023 года Центр когнитивных исследований и нейронаук ТГУ совместно с компанией «Нейротренд» провели серию обучающих семинаров для студентов, аспирантов и исследователей с возможностью последующего трудоустройства.

Организаторы рассказывали о работе с нейрооборудованием, проведении собственных экспериментов с использованием специального программного обеспечения, анализе полученных данных и реализации проектов, основанных на применении нейротехнологий; а также об обязательных протоколах исследований.

В этом выпуске нашей рубрики мы остановимся на обзоре основных проблем, связанных с развитием нейротехнологий, и приведём ряд ссылок на источники научного и научно-популярного плана, которые помогут продолжить знакомство с этой темой. Представленные материалы показывают, насколько сложны и неоднозначны проблемы, связанные с изучением, развитием и применением нейротехнологий. Центр когнитивных исследований и нейронаук в Томском государственном университете уделяет особое внимание этическим вопросам и разработке социально-гуманитарных экспертиз, сопровождающих каждое исследование. Как классический вуз, ТГУ обладает для этого всеми необходимыми ресурсами и, прежде всего, высококвалифицированными специалистами соответствующих профилей. Основная идея, объединяющая все исследования Центра: нейротехнологии для человека, а не вместо человека.

Нейротехнологии — это спектр методов, систем и инструментов, устанавливающих прямой путь к человеческому мозгу. Используя их, можно записать активность мозга и/или повлиять на неё.  Эта группа технологий появилась и стала бурно развиваться в результате развития нейронаук, таких как нейрофизиология, нейробиология, нейроинженерия, нейроинформатика и так далее.

Итак, нейротехнологии позволяют записывать сигналы, исходящие из мозга и преобразовывать их в команды, например, для управления протезом или программным обеспечением в компьютере. Они могут измерять активность мозга, стимулируя определённые области внутри него. Нейротехнологии изменили представления о мозге, различных аспектах сознания, мыслительной деятельности и высших психических функциях.

Одним из ключевых достижений в области нейротехнологий стали интерфейсы мозг-компьютер — системы, обеспечивающие двунаправленное взаимодействие между мозгом и машиной. Среди прочего, они могут быть использованы при реабилитации парализованных пациентов, обеспечивая их большей автономией и улучшая их качество жизни.

С помощью нейротехнологий стало возможным создание математических моделей, построенных по принципу биологических нейросетей, способных решать сложные задачи и самообучаться.

На первый взгляд кажется, что нейротехнологии призваны сделать жизнь человека лучше и их развитие стоит всячески поддерживать и поощрять. Однако, как и любое другое технологическое достижение, их распространение и расширение функционала сопряжено со многими вопросами безопасности, конфиденциальности и этики, что привело к появлению субдисциплин, к которым относятся нейроэтика и нейроправо.

В 2001 году публицист Вильям Сафайр определил нейроэтику как дисциплину, в которой обсуждаются права обращения с человеческим мозгом или (при его совершенствовании) их нарушения.

Термин «нейроправо» был впервые предложен Шерродом Тейлором в начале 1990-х, чтобы обозначить растущую область сотрудничества между нейропсихологами и юристами, работающими в системе  уголовного правосудия.

Как отмечает Марчелло Иенса, один из ведущих исследователей в области нейроэтики, необходимо провести тонкую грань между дальнейшим совершенствованием технологий, которые могут облегчить человеческие страдания, и предотвращением их неправильного использования.

Управление данными о мозге и «нейроправа»

Нейротехнологии, предназначенные для расшифровки когнитивных процессов, подарили человеку беспрецедентную возможность собирать «данные о мозге» и, обработав их, получить представление о том, что делает нас нами. Однако мозг — это не просто один из множества органов, а центральный «пункт управления» нашим поведением, идентичностью, эмоциями и решениями. Он генерирует данные, которые можно считать самыми сокровенными и конфиденциальными. Они могут дать самое точное представление о человеке, в том числе о том, что он сознательно хотел бы скрыть. Это объясняет появление призывов рассматривать данные о мозге как отличные от других видов данных. Такие данные должны подлежать четкой и строгой системе управления, предотвращающей злоупотребление ими и их неправомерное использование, а также такие действия, как принудительный сбор данных и дискриминация на их основе. Во время пандемии люди столкнулись с использованием данных об их здоровье — статусе привитого или непривитого от Covid-19 — для ограничения свободы передвижения. Теперь представим гипотетическую ситуацию: человек зашёл в магазин, увидел прилавок с фруктами и подумал: «Как близко они лежат ко входу. Можно запросто украсть пару апельсинов». Чип в его голове передал информацию на общий сервер, по кодовым словам сообщение отфильтровали и передали в полицию. В целях профилактики человеку закрыли доступ в продуктовые магазины. Это совершенно новый уровень контроля и ограничения свобод.

Всё большее число экспертов выступают за расширение правовой сферы на защиту человеческого разума через установление новых «нейроправ». Они, например, закрепили бы право на неприкосновенность психической жизни и свободу познания. Поскольку нейротехнологии, ориентированные на потребителя, становятся все более распространенными, такие данные окажутся в руках частных корпораций и пока непонятно, как они ими могут распорядиться. Но действовать нужно превентивно!

Фонд NeuroRights выделяет пять отдельных «нейроправ», которые могут быть утрачены в результате неправильного использования или злоупотребления технологиями.

Право на неприкосновенность частной жизни подчеркивает уязвимость нейронных данных перед продажей, коммерческой передачей и несанкционированным использованием. Сегодня подобную ситуацию, но с добровольно внесёнными данными о себе, можно наблюдать в социальных сетях. Мега-корпорации собирают информацию из профилей подписчиков, их комментариев и реакций на контент для продажи рекламодателям, общественным и политическим организациям и другим заинтересованным лицам. Подобное может случиться и с данными из «головы». Например, технологии нейромаркетинга могут сделать рекламу супер-таргетированной, основывая позиционирование товаров на глубинных переживаниях и скрытых от окружающих мыслях потребителя.

Право на личную идентичность требует от технологий учитывать то, как мы воспринимаем и выражаем себя.

Это право может быть одним из наиболее уязвимых нейроправ, так как в современном международном научном и общественном дискурсе нет конкретных данных о том, как формируется идентичность и как защитить самовосприятие и самовыражение личности.

Что происходит с идентичностью в мире, где технологии ежедневно взаимодействуют с нервной активностью и гормонами, реагируют на данные голоса и выражения лица? Как установить алгоритм реагирования общества и регулирующих органов на исследования, документирующие непредвиденные последствия использования нейротехнологий?

Право на свободу воли признает недопустимость того, что процесс принятия решений человеком всё чаще подвергается технологическим манипуляциям.

Здесь вновь хочется обратиться к примеру с социальными сетями. Алгоритмические системы рекомендаций и таргетинга, распространенные в социальных сетях и потоковых сервисах, также обладают огромным потенциалом для воздействия на то, как люди получают информацию и формируют мнения. Существует множество исследований влияния алгоритмического усиления на восприятие новостной повестки, формирование реакции на конфликты, потребительские привычки и даже поведение во время выборов. Использование технологий для распознавания мыслей и манипулирования ими представляет совершенно другой уровень риска для прав человека.

Право на защиту от алгоритмической предвзятости указывает на защиту от влияния алгоритмов и нейротехнологий на социально-экономические результаты деятельности человека.

Даже если алгоритмы работают на основе самообучающейся нейросети, саму нейросеть создают люди, они же загружают в неё изначальные данные, на основании которых сеть будет самообучаться далее. На этом этапе может возникнуть ошибка, которая повлияет на результаты работы программы, в частности, на возникновение предвзятости при обработке данных.

Без надлежащего контроля предвзятость может повлиять на работу нейротехнологических устройств, что напрямую отразится на качестве и результатах их использования человеком. Над разработкой, внедрением и мониторингом технологий, которые взаимодействуют с нашим разумом, должны работать междисциплинарные группы, применяющие разнообразные методологии, чтобы обеспечить выявление и смягчение возможных проблем самого широкого спектра.

И, наконец, право на справедливый доступ к нейротехнологиям, поднимающее вопрос о том, насколько «нейротехнологический разрыв» может препятствовать равенству и инклюзивности. Будут ли общедоступными все нейротехнологии, либо только жизненно важные и/или обеспечивающие минимальное качество жизни?

Улучшение человеческого потенциала, неравенство и социальные последствия

Существует зыбкая граница между использованием нейротехнологий как восстановительного инструмента и использованием их с целью «улучшения» или «расширения» человека. Иными словами, технология не остановится на помощи людям с проблемами со здоровьем. Они будут усиливать и приумножать возможности здоровых. В связи с этим возникают новые этические и моральные вызовы. Будет ли безопасным и оправданным усовершенствование характера человека? К каким изменениям личности это может привести? Останется ли «улучшенный» человек самим собой? Можно ли «усовершенствовать» целую нацию, сделать её менее притязательной, более работоспособной, подчинить себе, заставить работать большинство на процветание меньшинства? Возникновение новых форм социального неравенства неизбежно, и, скорее всего, это приведет к появлению новых радикальных движений и новых форм борьбы с угнетающим «совершенным классом».

Прогресс в науке и технике открыл перед человеческой цивилизацией новые горизонты, но одновременно стал причиной различных происшествий и техногенных катастроф.

В «Голем» Гарри Коллинза и Трэвора Пинча рассматриваются различные ситуации, в которых технологии использовались не по назначению или выходили из-под контроля, как это случилось на Чернобыльской АЭС. Голем — существо из еврейской мифологии, могущественное, но потенциально опасное, может как приносить пользу, так и причинять боль и страдания, выйдя из-под контроля своих создателей. Авторы сравнивают с Големом науку и технологии, разоблачая традиционное представление о том, что наука является прямым результатом компетентного теоретизирования, наблюдения и экспериментирования. Первое издание в начале девяностых вызвало много споров, однако было переиздано и продолжает сохранять актуальность тридцать лет спустя! В этой книге можно найти ответы на вопрос, почему мы должны настаивать на ответственности учёных и, конечно, ответственности нас, как пользователей их изобретений в области нейротехнологий.

«Взлом мозга» и контроль над мыслями

Способность считывать информацию и записывать её в мозг рано или поздно (скорее, рано) приведёт к появлению возможности «взломать» самый загадочный человеческий орган и эффективно управлять человеческим разумом или поведением. Такие эксперименты уже успешно проводятся на мышах. Мы не знаем, когда учёные добьются успеха в подобных экспериментах над человеком, но для защиты от возможных форм неправомерного использования нейротехнологий, контролирующих мыслительный процесс, необходима упреждающая политика. Под угрозой окажутся когнитивная независимость и личная неприкосновенность, и, самое интересное, что мы можем даже не заметить, когда такие технологии манипулирования начнут работать и воздействовать на каждого из нас.

Военное использование нейротехнологий

Очень актуальная проблема — использование нейротехнологий в военных целях, так как они являются примером технологий двойного назначения, то есть, потенциально применимых как в гражданских, так и в военных целях. Самое простое и «позитивное» использование нейротехнологий в военной сфере связано с созданием передовых протезов, подключенных к мозгу, для солдат, потерявших конечности, или для лечения неврологических расстройств, таких как посттравматическое стрессовое расстройство. Однако эти же технологии могут быть развернуты на поле боя в наступательных целях, создавая дополнительные этические, моральные, политические проблемы и проблемы безопасности. Представьте себе, что солдату вводят в кровоток крошечное компьютерное устройство, которое с помощью магнита можно направлять в определенные области мозга. После обучения такой солдат сможет управлять системами оружия за тысячи километров, используя только свои мысли. Внедрение подобного типа компьютера в мозг солдата могло бы подавить его страх и тревогу, позволяя более эффективно выполнять боевые задачи. Следующий уровень — применение устройства, способного напрямую контролировать поведение солдат. В данном случае появятся новые вызовы этического характера: размытость моральной ответственности за содеянное («Я не сам это сделал, меня контролировали») может отразиться на уровне жестокости и распространённости военных преступлений.

Нейротехнологии могут вывести на новый уровень гибридные войны: если сегодня противостояния на поле боя поддерживается и усиливается пропагандой через СМИ и электронные медиа, то в нейровойне можно будет буквально взламывать мозг и на фронте, и в тылу через сигнал со спутников, «расшатывая» политическую и социальную стабильность противника.

Заглядывая вперед

Хотя все наши примеры могут казаться научной фантастикой или сценарием для фантастического фильма, на самом деле, подобные нейротехнологии уже находятся в стадии разработки. Нейро-устройства в настоящее время тестируются на людях с тяжелыми нервно-мышечными расстройствами, чтобы помочь им восстановить самые важные функции, такие как общение и подвижность. Пациенты уже могут включать свет, визуализируя действие: нейро-устройство декодирует сигналы из мозга и передает их на выключатель. Точно так же пациенты могут сосредоточиться на определенных буквах, словах или фразах на экране компьютера, перемещая курсор буквально силой мысли.

Несмотря на то, что нейротехнологии развиваются стремительно, большинство примеров, представленных в нашем материале либо ограничиваются рамками лабораторных экспериментов, либо существуют на уровне визионерских прогнозов. Но некоторые этические вопросы, безусловно, необходимо задать уже сегодня, и усилия по регулированию использования нейротехнологий должны начаться уже сейчас. Мы не можем ждать, пока технологии созреют, чтобы начать обсуждать их потенциальное неправомерное использование — к тому времени будет уже слишком поздно.

Ссылки по теме:

• Ienca М. On Neurorights // Front Hum Neurosci. 2021

• Safire W. Visions for a new field of "Neuroethics" // Neuroethics: Mapping the Field Conference Proceedings. May 13-14, 2002, San Francisco, California. New York, The Dana Press, 2002, pp. 3-9

• Taylor J. S., Harp J. A., & Elliott T. Neuropsychologists and neurolawyers // Neuropsychology, 5(4), 293–305. ‘1991

• Kenji Doya, Arisa Ema, Hiroaki Kitano, Masamichi Sakagami, Stuart Russell Social impact and governance of AI and neurotechnologies // Neural Networks, Volume 152, 2022, P. 542-554.

• Latheef S. Brain to Brain Interfaces (BBIs) in future military operations; blurring the boundaries of individual responsibility // Monash Bioeth Review, 2022

При работе над рубрикой были использованы материалы сайтов www.gcsp.ch и theconversation.com