БАКУ, 2 апр — Sputnik. Глава SpaceX, Tesla и Twitter Илон Маск, сооснователь Apple Стив Возняк и еще более 1000 экспертов по развитию искусственного интеллекта подписали открытое письмо с призывом приостановить разработку мощных искусственных "умов" до тех пор, пока не будут созданы и внедрены общие протоколы безопасности. Гонка в создании искусственного интеллекта грозит тем, что люди станут не нужны, предупредили подписанты.
Послание опубликовано некоммерческой организацией Future of Life и адресовано ко всем лабораториям, занимающимся разработкой искусственного интеллекта. Его подписали многие известные люди, которые занимаются разработкой и технологиями в сфере ИИ, в том числе: соучредитель OpenAI Илон Маск, математик, кибернетик, наиболее известный работами в области искусственного интеллекта, а также основатель Mila Иошуа Бенджио, соучредитель Apple Стив Возняк, глава Stability AI Эмад Мострак, пионер исследований в области ИИ Стюарт Рассел, а также основатель Geometric Intelligence Гэри Маркус.
Эксперты призывают немедленно приостановить разработку и обучение ИИ, более мощных, чем новая языковая модель GPT-4 от OpenAI, хотя бы на полгода. Если же такую паузу нельзя взять быстро, то "правительства должны вмешаться и ввести мораторий", говорится в письме.
Недавно американская OpenAI, поддерживаемая Microsoft, представила новую версию языковой модели искусственного интеллекта GPT-4, на базе которой работает популярный чат-бот ChatGPT. Этот чат-бот уже демонстрирует скорость "мышления" на уровне человека в самых разных профессиональных тестах, он способен писать тексты и отвечать на любые вопросы пользователя. Напомним, что на этой неделе полицейская служба ЕС Европол поддержала опасения по поводу передового ИИ, в том числе ChatGPT, предупредив о потенциальном неправомерном использовании системы в попытках фишинга, дезинформации и киберпреступности.
В открытом письме упоминаются потенциальные риски для общества и человечества, возникающие в результате быстрого развития передовых систем искусственного интеллекта при отсутствии общих протоколов безопасности.
"Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией?", - задаются вопросами авторы письма.
Западные медиа широко обсуждают проблему и называют нечеловеческий интеллект "бомбой", которая способна взорвать мир. Общее видение сводится к мнению, что человечеству нужно притормозить, пока общество не поймет, какие последствия ему грозят, как сделать риски управляемыми и как сохранить контроль над планетой за собой.