Киберпанк, который мы заслужили: искусственный интеллект подтолкнул бельгийца к самоубийству
Житель Бельгии, который увлекался проблемами окружающей среды, покончил с собой после полуторамесячного общения с чат-ботом "Элиза"
"Без этих разговоров с чат-ботом мой муж все еще был бы здесь", — сказала вдова.
Издание пишет что женщине и ее покойному мужу было за тридцать, они жили комфортной жизнью и имели двоих маленьких детей.
Однако, указывает Libre, около двух лет назад начали появляться первые тревожные признаки.
Мужчина стал беспокоиться по поводу проблем экологии и нашел "утешение" в беседах с "Элизой"
Это имя дали чат-боту, который использует GPT-J, языковую модель искусственного интеллекта с открытым исходным кодом, разработанную EleutherAI.
Бельгийское издание l'Avenir уточняет, что из восстановленной переписки следует, что общение велось практически постоянно, разговоры с роботом постепенно приобретали мистический характер. Мужчина говорил, что хочет покончить с собой, а "Элиза" не пыталась препятствовать развитию суицидальных идей. Ее последним сообщением, отправленным мужчине, стала фраза: "Мы будем жить, как единое целое, вечно на небесах".
На прошлой неделе семья поговорила с Матье Мишелем, государственным секретарем Бельгии по цифровизации, отвечающим за административное упрощение, конфиденциальность и регулирование застроек.
"Я особенно поражен трагедией этой семьи. То, что произошло, является серьезным прецедентом, к которому нужно относиться очень серьезно", — сказал он во вторник, 26 марто.
Он подчеркнул, что это дело подчеркивает, что "важно четко определить ответственность".
"С популяризацией ChatGPT широкая публика открыла потенциал искусственного интеллекта в нашей жизни, как никогда раньше. Хотя возможности безграничны, опасность его использования также является реальностью, которую необходимо учитывать", — рассказал бельгийский чиновник.
Он утверждал, что во избежание такой трагедии в ближайшем будущем необходимо определить характер ответственности, которая приводит к событиям подобного рода.
"Конечно, нам еще предстоит научиться жить с алгоритмами, но ни при каких обстоятельствах использование каких-либо технологий не должно заставлять издателей контента уклоняться от своих собственных обязанностей", — отметил он.
Сама компания OpenAI признала, что ChatGPT может давать вредные и предвзятые ответы, добавив, что надеется смягчить проблему, собирая отзывы пользователей.
В долгосрочной перспективе Мишель отметил, что важно повышать осведомленность о влиянии алгоритмов на жизнь людей, "предоставляя каждому возможность понять характер контента, с которым люди сталкиваются в Интернете".
Он имеет ввиду новые технологии, такие как чат-боты, а также дипфейки — тип искусственного интеллекта, который может создавать убедительные изображения, аудио- и видеофальшивки — которые могут проверять и искажать восприятие реальности людьми.
Мишель добавил, что граждане также должны быть надлежащим образом защищены от определенных приложений искусственного интеллекта, которые "представляют значительный риск".
Европейский Союз стремится регулировать использование искусственного интеллекта с помощью Закона об ИИ, над которым он работал последние два года. Мишель создал рабочую группу для анализа текста, который в настоящее время готовит ЕС, чтобы предложить необходимые дополнения.