Шесть руководителей технологических компаний подписали обещание Трампа в области искусственного интеллекта, но Microsoft и Amazon этого не сделали 29 сентября президент Дональд Трамп собрал в Белом доме руководителей крупнейших американских компаний, занимающихся искусственным интеллектом, и представил одностраничное «Соглашение о суперинтеллектуальных...
Шесть руководителей технологических компаний подписали обещание Трампа в области искусственного интеллекта, но Microsoft и Amazon этого не сделали
29 сентября президент Дональд Трамп собрал в Белом доме руководителей крупнейших американских компаний, занимающихся искусственным интеллектом, и обнародовал одностраничное «Соглашение о сверхразуме» — добровольное обязательство по обеспечению безопасности искусственного интеллекта, которое он назвал «морально обязательным». Подписали контракт шесть руководителей: Сундар Пичаи из Google, Дарио Амодей из Anthropic, Марк Цукерберг из Meta, президент OpenAI Грег Брокман, Дженсен Хуанг из Nvidia и Илон Маск из xAI.
Примечательно, что два гиганта отправили своих лидеров на обед, но не подписали соглашение: Microsoft и Amazon. Apple вообще не было в комнате. Вот чего на самом деле требует соглашение – и что раскрывают противники.
Что обязались подписавшие стороны
В одностраничном документе каждой компании предлагается внедрить четыре уровня внутреннего контроля:
Группы внутреннего мониторинга отслеживают возможности и согласованность моделей во время обучения и развертывания, уделяя особое внимание таким рискам, как кибербезопасность, биобезопасность и химические угрозы, гарантируя, что модели «не будут взламывать технические системы или получать доступ к ним непреднамеренным образом».
Внешние аудиторы — каждая компания должна сотрудничать с независимым оценщиком, чтобы оценить, работают ли ее средства управления ИИ как внутренние.