https://az.sputniknews.ru/20230420/ostorozhno-chat-boty-kak-ne-popastsya-na-udochku-iskusstvennogo-intellekta-453987304.html
Осторожно, чат-боты: как не попасться на удочку искусственного интеллекта
Осторожно, чат-боты: как не попасться на удочку искусственного интеллекта
Sputnik Азербайджан
Ученые предупредили - быстрое развитие ИИ представляет "серьезную опасность для человечества". 20.04.2023, Sputnik Азербайджан
2023-04-20T18:00+0400
2023-04-20T18:00+0400
2023-04-20T18:00+0400
новости
искусственный интеллект
чатбот
ученые
https://cdnn1.img.sputnik.az/img/07e7/04/14/453987664_0:160:3072:1888_1920x0_80_0_0_05a219ff143e59c531d7d4703cbd32dc.jpg
БАКУ, 20 апр — Sputnik. Искусственный интеллект развивается слишком быстро, и в этом есть определенные минусы. Группа ученых-разработчиков ИИ забила тревогу. Они написали открытое письмо, в котором заявили, что быстрое развитие искусственного интеллекта представляет "серьезную опасность для человечества". Опасения ученых отнюдь не беспочвенны. Недавно бельгиец покончил жизнь самоубийством после шести недель общения с чат-ботом по имени Элиза. Вдова скончавшегося заявила, что он в последние годы интересовался вопросами защиты окружающей среды и со временем стал зацикливаться на этой теме. В результате у него возникла повышенная тревожность от мысли о неизбежности экологической катастрофы. Считая, что единственным спасением для человечества являются технологии и искусственный интеллект, он сам начал общаться с виртуальным персонажем, аналогичным популярному чат-боту ChatGPT, предназначенному для беседы с человеком. Как показала восстановленная в ходе расследования переписка мужчины с Элизой, последние недели перед смертью он постоянно общался с компьютером, при этом разговоры приобрели мистический характер, бельгиец начал склоняться к самоубийству. Искусственный собеседник при этом не только не препятствовал суицидальным мыслям человека, но и подталкивал его к этому. Так, последним сообщением робота стала фраза: "Мы будем жить как единое целое вечно на небесах". Можно ли доверять ИИ?Эксперт по искусственному интеллекту Марал Гурбанзаде рассказала Sputnik Азербайджан, что при общении с любым чат-ботом (переписка с роботом) люди должны помнить, что общаются не с человеком, а с алгоритмом. Любая полученная от ИИ информация должна подвергаться сомнению, добавила она. Эксперт отметила, что нужно помнить и о других возможных нежелательных последствиях. "Общаясь с чат-ботами, мы можем непроизвольно им передать какую-либо информацию, которая в дальнейшем может быть использована против нас", — отметила Гурбанзаде. Впрочем, по мнению Гурбанзаде, при правильном использовании чат-ботов они могут оказать определенную помощь. Для наглядности эксперт сравнила ИИ с электричеством. По ее словам, чат-роботов можно использовать и в здравоохранении.
Sputnik Азербайджан
media@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2023
Нигяр Искандерова
https://cdnn1.img.sputnik.az/img/07e5/06/11/427241483_0:0:1441:1440_100x100_80_0_0_4b3b1c29f36cb8c399b0cb2d9e2b8225.jpg
Нигяр Искандерова
https://cdnn1.img.sputnik.az/img/07e5/06/11/427241483_0:0:1441:1440_100x100_80_0_0_4b3b1c29f36cb8c399b0cb2d9e2b8225.jpg
Новости
ru_AZ
Sputnik Азербайджан
media@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik Азербайджан
media@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Нигяр Искандерова
https://cdnn1.img.sputnik.az/img/07e5/06/11/427241483_0:0:1441:1440_100x100_80_0_0_4b3b1c29f36cb8c399b0cb2d9e2b8225.jpg
искусственный интеллект, чатбот, ученые
искусственный интеллект, чатбот, ученые
Осторожно, чат-боты: как не попасться на удочку искусственного интеллекта
Ученые предупредили - быстрое развитие ИИ представляет "серьезную опасность для человечества".
БАКУ, 20 апр — Sputnik. Искусственный интеллект развивается слишком быстро, и в этом есть определенные минусы. Группа ученых-разработчиков ИИ забила тревогу. Они написали открытое письмо, в котором заявили, что быстрое развитие искусственного интеллекта представляет "серьезную опасность для человечества". Опасения ученых отнюдь не беспочвенны.
Недавно бельгиец покончил жизнь самоубийством после шести недель общения с чат-ботом по имени Элиза. Вдова скончавшегося заявила, что он в последние годы интересовался вопросами защиты окружающей среды и со временем стал зацикливаться на этой теме. В результате у него возникла повышенная тревожность от мысли о неизбежности экологической катастрофы.
Считая, что единственным спасением для человечества являются технологии и искусственный интеллект, он сам начал общаться с виртуальным персонажем, аналогичным популярному чат-боту ChatGPT, предназначенному для беседы с человеком.
Как показала восстановленная в ходе расследования переписка мужчины с Элизой, последние недели перед смертью он постоянно общался с компьютером, при этом разговоры приобрели мистический характер, бельгиец начал склоняться к самоубийству. Искусственный собеседник при этом не только не препятствовал суицидальным мыслям человека, но и подталкивал его к этому. Так, последним сообщением робота стала фраза: "Мы будем жить как единое целое вечно на небесах".
Эксперт по искусственному интеллекту Марал Гурбанзаде рассказала Sputnik Азербайджан, что при общении с любым чат-ботом (переписка с роботом) люди должны помнить, что общаются не с человеком, а с алгоритмом.
"Другими словами, чат-боты лишены человеческого сознания. Они не знают, о чем говорят. Информация, которую они предоставляют, получена из баз данных. Мы не знаем, как эта информация собиралась, откуда взялась и как попала в эти базы", - сказала эксперт.
Любая полученная от ИИ информация должна подвергаться сомнению, добавила она.
Эксперт отметила, что нужно помнить и о других возможных нежелательных последствиях. "Общаясь с чат-ботами, мы можем непроизвольно им передать какую-либо информацию, которая в дальнейшем может быть использована против нас", — отметила Гурбанзаде.
Впрочем, по мнению Гурбанзаде, при правильном использовании чат-ботов они могут оказать определенную помощь. Для наглядности эксперт сравнила ИИ с электричеством.
"Хотя удар молнии может привести к печальным последствиями, электричество уже давно является неотъемлемой частью нашей жизни. В зависимости от того, как мы его используем, оно может творить как добро, так и зло. К чат-ботам следует относиться таким же образом, это для нас просто инструмент", - сказала эксперт.
По ее словам, чат-роботов можно использовать и в здравоохранении.
"Искусственный интеллект и чат-боты могут хорошо работать с аутистами. Но очень важно совершенствовать ИИ", — сказала Гурбанзаде.
