ChatGPT ломается от «особых» имен. Что происходит с чат-ботом?
Те-Кого-Нельзя-Называть.
Пользователи выяснили, что ChatGPT не может дать ответ на вопрос о том, кто такой Дэвид Майер. При попытке запросить информацию об этом человеке по имени бот зависает и выдает сообщение об ошибке.
Сбой возникает только при написании имени David Mayer на английском языке. Но ChatGPT предоставит информацию о Дэйве Майере или Дэвиде Майере при запросе на русском языке. Также бот обрабатывает запросы о людях с фамилией Майер или именем Дэвид, если они не используются в сочетании.
Одним из наиболее известных людей с таким именем является Дэвид Майер де Ротшильд. Но о связи наследника состояния семьи Ротшильдов со сферой ИИ ничего неизвестно.
Другой известный Дэвид Майер был профессором, преподававшем драматическое искусство и историю. Майер умер летом 2023 года в возрасте 94 лет.
Однако за несколько лет до этого британско-американский ученый столкнулся с юридической проблемой. Один разыскиваемый преступник использовал имя Майера в качестве псевдонима, из-за чего «настоящий» профессор не мог даже путешествовать, а сам он находился под наблюдением. Профессор Майер до последнего дня боролся за то, чтобы его имя не путали с именем преступника.
ChatGPT «избегает» не только Майера
Помимо David Mayer, пользователи обнаружили еще несколько имен, вызывающих сбой ChatGPT: Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber и Guido Scorza. Все эти люди являются публичными персонами, которые, вероятно, обращались с просьбой удалить или ограничить доступ к их личной информации в интернете.
Например, Брайан Худ и юрист Джонатан Терли столкнулись с серьезными искажениями фактов о себе. В частности, Брайан Худ, мэр австралийского города, в середине 2023 года обнаружил, что ChatGPT ложно утверждал, что он был заключен в тюрьму за взяточничество, когда на самом деле он был осведомителем, который разоблачил корпоративные правонарушения.
Другие имена из списка, кроме журналиста Дэвида Фабера, связаны с темами конфиденциальности и защиты данных. Джонатан Зиттрейн – профессор права, выступающий за «право на забвение» в интернете. Гвидо Скорца работает в итальянском органе по защите данных.
Возможно, это связано с правами на конфиденциальность, которые существуют в некоторых странах, например, в ЕС. Эти права позволяют пользователям запрашивать удаление своих данных из обучающих наборов ChatGPT.
Встроенный фильтр блокирует обработку определенных имен, которые могут быть связаны с проблемами конфиденциальности, безопасности или юридическими рисками. Вероятно, что он был поврежден или неправильно настроен, из-за чего и возник сбой в чат-боте.
***
Panasonic воскресит основателя с помощью ИИ. Аватар поможет в управлении корпорацией
36 000 видеокарт AMD создали модель Вселенной. Это крупнейшая симуляция за все время!