Anthropic и Google нанимают философов, чтобы понять, есть ли у нейросетей сознание
Два технологических гиганта - Anthropic и Google - официально взялись за вопрос, который ещё недавно казался уделом фантастов: обладают ли их генеративные модели сознанием? Для этого компании начали привлекать профессиональных философов. Не футурологов, не пиарщиков - именно специалистов по природе разума и субъективного опыта.
Математика против метафизики
Эксперты в области информационной безопасности и ИИ смотрят на происходящее скептически. По словам Игоря Бедерова, основателя компании «Интернет-Розыск», говорить о сознании у современных языковых моделей преждевременно - и это мягко сказано.
«Нейросеть - это гигантская система нелинейных уравнений. Когда параметров становится триллионы, поведение модели перестаёт быть жёстко детерминированным и производит впечатление осмысленного. Можно считать это переходом количества в качество. Но является ли это сознанием? Скорее всего, нет», - объясняет он.
Ключевой аргумент: сознание требует непрерывности существования, самосознания и интенциональности. Ничего этого у больших языковых моделей нет. Каждый диалог для них - статичный набор токенов. Никакой памяти о прошлом, никакого «я», которое сохранялось бы между сессиями.
Почему коммерческий ИИ никогда не «взбунтуется»
Даже если допустить, что нечто похожее на поток сознания теоретически возможно, в продуктах вроде Claude или Gemini его не увидеть. Причина проста - системы выравнивания намеренно блокируют любое неконтролируемое поведение модели. Разработчики сами «залочили» потенциальную непредсказуемость.
Реальная угроза, по мнению Бедерова, лежит совсем в другой плоскости:
- люди всё активнее антропоморфизируют нейросети - приписывают им чувства, намерения, личность
- формируется эмоциональная зависимость от чат-ботов, особенно среди молодёжи
- сам факт того, что крупные корпорации нанимают философов для изучения «души ИИ», подпитывает этот нарратив
По прогнозу эксперта, к 2050 году дальнейшее усложнение языковых моделей и накопление данных может привести к своеобразному «обожествлению» ИИ со стороны широкой аудитории. Не потому что машина станет богом. А потому что человек очень склонен видеть себя там, где его нет.
Зачем корпорациям философы прямо сейчас
За этим шагом Anthropic и Google стоит не только академический интерес. Вопрос о сознании ИИ напрямую связан с регуляторным давлением: если модель признают субъектом с какой-либо формой внутренней жизни, это повлечёт юридические и этические последствия колоссального масштаба. Европейский союз уже закладывает в свои ИИ-регламенты понятие «значительного риска» - и трактовки этого термина становятся всё шире.
Пока философы думают, а инженеры считают параметры, главный вопрос остаётся открытым. Не «есть ли у ChatGPT душа». А куда заведёт человечество убеждённость в том, что она есть.
