Текст письма опубликовал Институт будущей жизни (Future of Life Institute).
Авторы письма призвали разработчиков искусственного интеллекта немедленно прекратить минимум на полгода обучения более мощных систем, чем GPT-4 от OpenAI. Эксперты и руководители отрасли, подписавшие письмо, считают, что обучение следует остановить, пока не появятся общие протоколы безопасности. По их мнению, если учебу не удастся остановить быстро, то власти "должны вмешаться и ввести мораторий".
Авторы письма считают, что даже создатели "мощных цифровых умов" не могут их контролировать, а современные системы искусственного интеллекта начинают конкурировать с человеком.
"Нам следует спросить себя: должны ли мы позволить машинам наполнить наши информационные каналы пропагандой и ложью? Должны ли мы автоматизировать всю работу, включая приносящую удовольствие? Должны ли мы развивать бесчеловечные умы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Имеем ли мы рисковать потерей контроля над нашей цивилизацией?" — говорится в письме.
Как отмечает Reuters, исполнительный директор OpenAI Сэм Альтман не стал подписывать письмо.