Законодатели штата Нью-Йорк на прошлой неделе приняли документ, который может стать первым в США законом о контроле над искусственным интеллектом (ИИ).
Как сообщает издание TechCrunch, законопроект направлен на то, чтобы не допустить нанесения вреда человеку со стороны моделей продвинутого ИИ. Речь в нем идет о сценариях катастроф, вызванных деятельностью крупных компаний-разработчиков, включая смерть или травмирование более ста человек или ущерб на сумму более $1 млрд.
Будущий закон, а он получил название RAISE, содержит некоторые из тех же положений и целей, которые раньше вошли в спорный законопроект Калифорнии о безопасности искусственного интеллекта SB 1047.
Напомню, в прошлом году в Калифорнии была сделана попытка принять подобный закон, но вето губернатора штата Гэвина Ньюсома тогда не позволило создать прецедент в США.
Сегодня единственный в мире закон, регулирующий деятельность ИИ, принят в Евросоюзе в 2024 году.
Закон RAISE направлен на регулирование деятельности крупнейших ИТ-компаний мира независимо от того, базируются ли они в США или в Китае.
Требования прозрачности законопроекта распространяются на лаборатории, чьи модели ИИ были обучены с использованием вычислительных ресурсов на сумму более $100 млн, и предоставляются жителям Нью-Йорка.
Кстати, последнее важно — крупные компании могут просто «обходить стороной» этот штат в своей деятельности, что говорит о том, что будущий закон, если он и будет принят, носит все-таки локальный характер.
Принятие закона в Нью-Йорке будет знаменовать победу для движения за безопасность ИИ, которое в последнее время утратило позиции в США.
В своих статьях я рассказывал, что администрация Трампа отдает приоритет скорости развития ИИ: едва став президентом, в январе 2025 года на пресс-конференции в Белом доме он заявил о создании нового предприятия Stargate, которое займется развитием искусственного интеллекта в стране. Планируется, что в этот проект будет инвестировано до $500 млрд.
Сторонники безопасности искусственного интеллекта, включая лауреата Нобелевской премии Джеффри Хинтона («отца» ChatGPT) и пионера исследований ИИ Йошуа Бенджио, сегодня отстаивают закон RAISE.
Очевидно, что основными их противниками, как в случае с калифорнийским, так и с нью-йоркским законопроектами, считаются крупные ИТ-компании — им невыгодна регламентация их деятельности.
Калифорния в свое время отказалась от закона SB 1047, поскольку в Кремниевой долине находятся 32 из 50 ведущих мировых компаний в области ИИ, в Нью-Йорке же все обстоит по-другому, а значит, в этом американском штате шансов принятия закона о контроле над ИИ больше.
Новый законопроект будет направлен на рассмотрение губернатору Нью-Йорка Кэти Хокул. Далее существует три варианта развития событий: она подпишет его или отправит на доработку, но может и наложить на закон вето.
Если RAISE станет законом, то установит первый в США набор юридически обязательных стандартов прозрачности для передовых компаний в области искусственного интеллекта.