В текущей статье я вновь обращаюсь к теме контроля над создаваемым AGI — искусственным общим интеллектом. Поводом послужило эссе, которое генеральный директор Microsoft по искусственному интеллекту (ИИ) Мустафа Сулейман опубликовал на прошлой неделе в своем блоге (mustafa-suleyman.ai).
По мнению Сулеймана, на пути к созданию сверхразума нам стоит обратить внимание на то, что новейшие изобретения и технологии способны кардинально изменить наше восприятие личности и общества.
В частности, он выражает обеспокоенность тем, что скоро многие люди начнут так сильно верить в иллюзию искусственного интеллекта как сознательных существ, что начнут выступать за их права. То есть воспринимать ИИ как живое существо, что Сулейман называет «психозом ИИ».
Для объяснения будущей модели ИИ он вводит термин SCAI (Seemingly Conscious AI — «кажущийся сознательным ИИ». — Ред.).
Мустафа Сулейман заявляет, что его жизненная миссия — это «создание безопасного и полезного искусственного интеллекта, который сделает мир лучше».
Однако современные ИИ‑технологии вплотную подошли к созданию иллюзии сознания у новых нейросетей, что тревожит Сулеймана и заставляет говорить о том, что искусственный интеллект с SCAI не возникнет случайно — кто-то сможет его спроектировать, скомбинировав определенный список возможностей.
Опубликованное эссе Мустафы Сулеймана — это продолжение дискуссии в экспертном сообществе о том, может ли ИИ «рассуждать», достижимо ли для него обладание «сознанием».
Сулейман призывает к общественным дебатам, введению норм и ограничений при создании новых моделей ИИ.
Буквально в своей предыдущей статье я высказывал мнение, что стремление ИТ-компаний увеличить доходы от рекламы и ИИ привело к тому, что индустрия искусственного интеллекта начала агрессивно стирать грань между человеческими отношениями и взаимодействием с ботами.
По мере того как быстро развивались технологии в области создания продвинутых больших языковых моделей (LLM), среди экспертов все чаще стали звучать опасения, что мы без оглядки передаем функции управления нашей жизнью искусственному интеллекту.
А ведь это может не только нести удобство и комфорт для нашего общества, но и иметь негативные последствия для человека.
