Российские философы призвали сделать ИИ субъектом правовых отношений
Как положить конец неконтролируемому «разгулу» нейросетей, кто должен отвечать за их ошибки? Свои ответы на это дала группа российских ученых из Саратовского государственного университета имени Н.Г. Чернышевского и челябинского Южно-Уральского государственного университета (ЮурГУ). Их работа, о которой сообщили в Минобрнауки России, была на днях опубликована в Nature под заголовком «За пределами человеческой воли: исследование социальной и правовой субъективности искусственного интеллекта».
Фото: Jens Battner/dpa/Global Look Press
Забегая вперед, отметим, что главная мысль статьи сводится к необходимости придания ИИ юридического статуса. А вот какого, об этом мы побеседовали с двумя авторами работы – профессорами кафедры теоретической и социальной философии СГУ Денисом Артамоновым и Софьей Тихоновой.
— Современный ИИ — это бестелесное существо, свободное от телесных ограничений, но обладающее зачатками когнитивной жизни: он «видит» и «слышит» данные, «мыслит» в терминах вероятностей и «решает» проблемы в реальном времени. То есть, с одной стороны, он может влиять на нашу с вами жизнь, что он, собственно, и делает, к примеру, записывая нас к врачу, согласовывая или отказывая нам в банковских кредитах. С другой стороны, у него нет ни своих собственных намерений, ни желаний, ни целей, ни чувств, он не познаёт мир, а лишь моделирует поведение человека, что и делает его опасным в ряде ситуаций. Наверняка вы помните громкий случай, как ИИ, следуя вложенному алгоритму, ошибочно, опираясь на далекий от совершенства фоторобот, «обвинил» человека в убийстве. Бедолага больше года просидел в СИЗО, и лишь неимоверными усилиями общественников был освобожден.
— В мире давно спорят, можно ли придать ИИ статус субъектности, наподобие человеческой. Да, мы говорим, что машина начала «мыслить», как человек, но при этом понимаем, что это все-таки не человек. Границы субъективности и рациональности больше не совпадают с антропологическими границами. А потому мы предлагаем придать искусственному интеллекту статус «ограниченный участник социальных и правовых отношений», «технический агент человека». Правовая система уже сейчас должна признать их статус ограниченной субъектности.
— Не называя их «личностью», мы все-таки будем учитывать их реальный вклад в нашу жизнь, оценивать его и корректировать, если понадобится, обращаясь к его разработчикам. То есть, ИИ остаётся нечеловеческим агентом, но оценка его влияния требует специальных механизмов ответственности, аудита, регулирования и гуманитарной экспертизы.
Денис Артамонов и Софья Тихонова. Фото: Дмитрий Ковшов
— Как до внедрения алгоритмов в практику, так и после. До внедрения надо обязать разработчиков искусственного мышления обязательно придерживаться базовых критериев. По большому счету, такие критерии уже работают, например, ИИ-художник никогда не нарисует вам свастику или порнографию, но есть же и более тонкие вещи. Например, гуманитарный надзор может включать до этапа внедрения алгоритма оценку рисков дискриминации человека, проверку прозрачности и объяснимости решений, анализ влияния на трудовые отношения, образование, частную жизнь и социальное неравенство. Мы предлагаем также дать возможность пользователям и третьим лицам понимать, как можно оспорить автоматизированное решение и как проводится аудит алгоритма. Взять к примеру, тот же случай с обвинением человека на основе «показаний» ИИ, который только сопоставил графический рисунок с реальным человеком. Похоже, общество тогда вообще растерялось: кем в системе правовых отношений выступала тогда нейросеть – главным обвинителем или только свидетелем? По факту тогда выходило, что обвинителем. Так вот, если мы хотим видеть в ИИ исключительно свидетеля, а не последнюю инстанцию правды, должен быть в системе и главный судья с возможностью проверки «показаний» такого свидетеля. Если мы признаем ИИ, а также тех, кто его выпускает в жизнь, участниками социальных и правовых отношений, это позволит нам точнее определять, кто отвечает за вред, ошибку или дискриминационное решение.
— Предложенный нами «гуманитарный надзор» за ИИ может работать и постфактум. Несмотря на то, что обратиться из России в США или Китай, где разрабатываются одни из самых распространенных больших языковых моделей, мы не можем, есть способ оценивать их «адекватность» в соответствии с нашими правилами жизни, по факту «рождения» ими контента. Это может работать по принципу постоянного контроля за содержанием текстов или картинок, какой есть в известной всем Википедии.
– Можно обучить оценивать действия нейросетей с точки зрения негативных последствий для человека и общества тот же ИИ…
— Вот тут нам всем надо еще поразмышлять. Дело в том, что наши этические законы еще не осуществили переход от индивидуалистической этики к этике совокупностей, где моральные обязательства распространяются на всю сеть взаимодействующих субъектов, включая нечеловеческих. Пока распределение вины между разработчиками, пользователями данными и самими системами (каждая из этих сущностей вносит свой вклад в конечный результат) нами рассматривается проблематичным.
— Думаю, рассмотрение вопроса уравнивания ИИ с человеком начнется тогда, когда он… сам нас об этом попросит. Но хорошо бы, чтобы к тому времени, мы обладали системой гуманитарного контроля, чтобы мы могли отличить «чистую волю» ИИ в этом требовании от попыток манипуляции со стороны людей, заинтересованных в новом порядке.
Свежие комментарии