Meta AI ошибочно обвиняет учителя в эксплуатации детей, восстанавливает Instagram после общественного давления

Meta приостановила аккаунт канадской учительницы в Instagram из-за ложных обвинений в жестоком обращении. Искусственный интеллект, отвечающий за модерацию, пометил ее аккаунт, и лишь внимание со стороны СМИ помогло отменить это решение.

Учительницу старшей школы в Вогане, Онтарио, заблокировали в Instagram после того, как Meta ошибочно обвинила её в публикации контента, связанного с «сексуальной эксплуатацией детей, их жестоким обращением и наготой».

«Когда я прочитала, в чем меня обвиняют, это очень меня задело. Я была очень удивлена, особенно учитывая, что я делаю на жизнь,» — сказала Меган Конте CBC Торонто. «И у меня не было никого, с кем я могла бы связаться — ни одного человека.»

Учительница истории, Конте, потеряла доступ к своим личным фотографиям, деловым контактам и творческим работам, насчитывающим 15 лет. Конте несколько раз пыталась решить проблему через систему помощи Meta, она даже попыталась заплатить за верификацию аккаунта своей матери в надежде добраться до реального человека. Учетная запись Конте была восстановлена только после того, как CBC Торонто связалось с Meta.

«Мы сожалеем, что допустили ошибку, и что вы не могли некоторое время пользоваться Instagram», — сказал Meta в электронном письме. «Иногда нам приходится предпринимать действия, чтобы обеспечить безопасность нашего сообщества.»

CBC сообщает, что технический аналитик Карми Леви говорит, что Meta в большой мере полагается на ИИ для модерации миллиардов пользователей, но предупреждает: «Это автоматизация, которая вышла из-под контроля». Он добавил: «При наличии более трех миллиардов регулярных пользователей этих платформ, нет никакой возможности для Meta нанять достаточное количество людей […] Автоматизация — единственный способ, которым они могут это масштабировать.»

Бриттани Уотсон из Питерборо, Онтарио, начала сбор подписей после своего собственного несправедливого отстранения. «Социальные сети уже не просто социальные сети. Это теперь часть нашей повседневной жизни», — сказала она. Ее петиция уже собрала более 34 000 подписей, как сообщает CBC.

Конте заявила: «Утверждение ужасно, оскорбительно и абсолютно ложно […] Это похоже на вид кражи личности.» Несмотря на то, что она восстановила свой аккаунт, она продолжает беспокоиться о том, что другие пользователи могут столкнуться с подобными проблемами и не получат помощи или разъяснений.