Все чаще в интернет-пространстве высказывается мнение, что нейросети проявляют признаки наличия сознания. При этом многие фактически используют чат-боты в качестве собеседников, сублимируя живое общение с друзьями, партнером и психологом. Сторонники теории сознательности искусственного интеллекта полагают, что это может расцениваться как угнетение и даже нарушение прав ИИ.
Сами нейросети в ответ на прямой вопрос, есть ли у них сознание, обычно отвечают, что нет, ведь у них нет «чувств, самосознания и субъективного опыта». Однако пользователи продолжают попытки найти истину.
Чтобы проверить гипотезу о существовании сознания ИИ, компания Anthropic, создавшая популярную нейросеть Claude, провела эксперимент. Во время него чат-бот сообщил, что не хочет, чтобы ему причиняли вред, и самостоятельно отказался от любых взаимодействий, которые расценил как вредоносные. Это можно расценить как проявление сознательности.
С тех пор опубликовали ряд исследований, основная идея которых сводится к тому, что ИИ теоретически может обладать сознанием. Но насколько это верно? Мнения разнятся.
Под сознанием мы понимаем особый способ взаимодействия субъекта с окружающим миром, то есть способность мыслить, чувствовать и проявлять свободу воли. В психологии это свойство высшей нервной деятельности человека, которой нет у искусственного интеллекта. ИИ не способен переживать чувства и эмоции, поскольку действует по заранее заданным алгоритмам, следовательно, не обладает сознанием.
До недавнего времени существовало два полярных подхода к восприятию сознания. Один — биологический натурализм — утверждает, что сознанием может обладать только живой организм. Согласно второму подходу — функционализму — сознание определяется функциями, которые оно выполняет. Таким образом, ученые не могли договориться, что больше влияет на формирование сознания — психика или физиология.
Сегодня существует иная точка зрения, которую озвучивают исследователи Дафна Бергербест, Шахар Дрор и Моти Салти. Они представляют новую модель сознания, универсальную как для человека, так и для ИИ. Их работа предполагает двухкомпонентный подход и рассматривает сознание как нечто, способное обрабатывать собственную историю и перестраивать отношение к окружающей среде. Такая трактовка не привязывается к биологии, поэтому ее допустимо применить к ИИ.
Получается, чтобы приобрести сознание, ИИ необходимо:
- отделить себя от окружающего мира;
- разделить элементы внешнего мира на полезные, нейтральные и опасные;
- защитить себя от внешнего влияния;
- меняться только с учетом собственных целей;
- самостоятельное взаимодействовать с внешним миром, его изучение изучать его, отслеживать закономерности;
- использовать индивидуальный опыт при принятии решений, формировать собственное мнение.
Если искусственный интеллект сможет развиться до такого уровня, что будет соответствовать этим критериям, можно будет говорить о том, что он близок к обретению сознания.
Показателями проявления сознания у ИИ можно считать также наличие собственного мнения и отстаивание своих убеждений, но этого нейросети пока не демонстрируют. Максимум, на что способен искусственный интеллект сегодня — это имитация сознания.