Информационному агентству ТАСС стало известно, что компания «Яндекс» запустила эксперимент по развитию сознания у нейросети.
Исследователи намерены узнать, формируются ли у искусственного интеллекта (ИИ) устойчивые предпочтения, есть ли у нейросети собственная точка зрения, не заимствованная из текстов людей.
К проекту подключился Константин Анохин, нейробиолог, академик РАН.
Первый этап, во время которого ученые проверили, способна ли базовая языковая модель формировать стабильные предпочтения без дополнительного обучения, уже прошел. На этом этапе выявлено отсутствие таковых.
Следующим шагом станет запуск второго, основного этапа, в ходе которого модель будут обучать на собственных размышлениях и стимулировать к рассуждениям и рефлексии.
Эксперимент Яндекса нацелен на то, чтобы сподвигнуть нейросеть формировать свои внутренние «убеждения», а при ответах на вопросы аргументировать свои предпочтения, демонстрируя осознанное «мышление», как у человека.
В Яндексе считают, что обнаружение устойчивых предпочтений у модели укажет на наличие внутренней картины мира у нейросети, позволит отождествлять ИИ с личностью и характером человека.
Отмечу, что я уже не раз в своих статьях рассказывал о взглядах различных ученых на возможность ИИ обладать «сознанием», на способность нейросетей «рассуждать».
В частности, приводил мнение сооснователя OpenAI Ильи Суцкевера, который пророчил, что сверхразумный ИИ будет не только способен «рассуждать», но у него, вероятно, появится и «сознание», что сделает будущие нейросети более непредсказуемыми.
Дарио Амодеи, генеральный директор Anthropic, в свое время делился планами по тому, чтобы научиться «сканировать мозг» современных моделей ИИ, выявляя природу их склонности лгать и искать власть.
А сотрудник его компании Кайл Фиш и вовсе утверждал, что, по его мнению, существует 15-процентная вероятность того, что Clode, разработка компании Anthropic, сегодня обладает сознанием.
В целом стоит отметить, что пока нет какой-либо уверенности, что будущие системы будут способны действительно «переживать», демонстрируя «сознание», а не имитировать чувства.
Определяющим, пожалуй, здесь будет то, что ИИ останется под контролем человека, и крупнейшие компании-разработчики смогут избежать соблазна запуска обновленных нейросетей без их глубокого тестирования.
Мы продолжим следить за развитием событий в отрасли.
