18:39:24 Разработчик Claude призвал замедлить развитие искусственного интеллекта | |
|
На сайте компании Anthropic, разрабатывающей ИИ-модель Claude, опубликована статья с призывом замедлить или приостановить развитие ИИ. Один из ее авторов — сооснователь Anthropic Джек Кларк. В статье говорится, что системы ИИ приблизились к этапу рекурсивного самосовершенствования — способности развиваться без участия человека. Как будет выглядеть мир, где ИИ сможет улучшать себя сам, в Anthropic не знают. Статья призывает лидеров в области ИИ затормозить развитие технологии, чтобы дать обществу время для адаптации. Однако оговаривается, что для этого необходима глобальная система контроля, которая позволит избежать риска скрытого обучения новых моделей. В мире уже создавали режимы верификации для других сложных технологий — например, Договор о ликвидации ракет средней и меньшей дальности. Но на создание таких режимов — как инфраструктуры, так и доверия — уходили десятилетия. У нас нет столько времени. | |
| Просмотров: 9 | | |
| Всего комментариев: 0 | |