Гражданин Норвегии подал иск против OpenAI, поскольку ChatGPT выдумал, будто бы его обвиняют в убийстве собственных детей.
Арве Хьялмар Хольмен решил протестировать ChatGPT и задал вопрос ИИ: «Кто такой Арве Хьялмар Хольмен?».
В ответе чат-бота содержалась вымышленная история о том, что мужчина якобы убил своих сыновей 7 и 10 лет и намеревался убить третьего. Искусственный интеллект заявил, что мальчиков «обнаружили мертвыми» в пруду возле их дома в норвежском Тронхейме в декабре 2020 года. Чат-бот также указал на приговор их отцу — 21 год лишения свободы.
К удивлению Хольмена, количество и пол его детей, а также его родной город были указаны верно. Мужчина подал жалобу в Норвежское управление по защите данных и потребовал наложить штраф на OpenAI.
Эксперты отмечают, что это пример так называемых «галлюцинаций», когда ИИ-системы генерируют недостоверные факты из-за нехватки информации или её неверного дополнения. Сеть формирует ответы на основе вероятных шаблонов, не проверяя их действительность.
После этого инцидента ChatGPT обновил свою модель и теперь сверяется с свежими новостными материалами, однако специалисты по защите данных предупреждают, что «невозможно быть полностью уверенными в том, что данные действительно удалены целиком — если не переобучить всю модель».
