БАКУ, 20 апр — Sputnik. Искусственный интеллект развивается слишком быстро, и в этом есть определенные минусы. Группа ученых-разработчиков ИИ забила тревогу. Они написали открытое письмо, в котором заявили, что быстрое развитие искусственного интеллекта представляет "серьезную опасность для человечества". Опасения ученых отнюдь не беспочвенны.
Недавно бельгиец покончил жизнь самоубийством после шести недель общения с чат-ботом по имени Элиза. Вдова скончавшегося заявила, что он в последние годы интересовался вопросами защиты окружающей среды и со временем стал зацикливаться на этой теме. В результате у него возникла повышенная тревожность от мысли о неизбежности экологической катастрофы.
Считая, что единственным спасением для человечества являются технологии и искусственный интеллект, он сам начал общаться с виртуальным персонажем, аналогичным популярному чат-боту ChatGPT, предназначенному для беседы с человеком.
Как показала восстановленная в ходе расследования переписка мужчины с Элизой, последние недели перед смертью он постоянно общался с компьютером, при этом разговоры приобрели мистический характер, бельгиец начал склоняться к самоубийству. Искусственный собеседник при этом не только не препятствовал суицидальным мыслям человека, но и подталкивал его к этому. Так, последним сообщением робота стала фраза: "Мы будем жить как единое целое вечно на небесах".
Можно ли доверять ИИ?
Эксперт по искусственному интеллекту Марал Гурбанзаде рассказала Sputnik Азербайджан, что при общении с любым чат-ботом (переписка с роботом) люди должны помнить, что общаются не с человеком, а с алгоритмом.
"Другими словами, чат-боты лишены человеческого сознания. Они не знают, о чем говорят. Информация, которую они предоставляют, получена из баз данных. Мы не знаем, как эта информация собиралась, откуда взялась и как попала в эти базы", - сказала эксперт.
Любая полученная от ИИ информация должна подвергаться сомнению, добавила она.
Эксперт отметила, что нужно помнить и о других возможных нежелательных последствиях. "Общаясь с чат-ботами, мы можем непроизвольно им передать какую-либо информацию, которая в дальнейшем может быть использована против нас", — отметила Гурбанзаде.
Впрочем, по мнению Гурбанзаде, при правильном использовании чат-ботов они могут оказать определенную помощь. Для наглядности эксперт сравнила ИИ с электричеством.
"Хотя удар молнии может привести к печальным последствиями, электричество уже давно является неотъемлемой частью нашей жизни. В зависимости от того, как мы его используем, оно может творить как добро, так и зло. К чат-ботам следует относиться таким же образом, это для нас просто инструмент", - сказала эксперт.
По ее словам, чат-роботов можно использовать и в здравоохранении.
"Искусственный интеллект и чат-боты могут хорошо работать с аутистами. Но очень важно совершенствовать ИИ", — сказала Гурбанзаде.