Спорная статья об ИИ отозвана после расследования MIT

Массачусетский технологический институт (MIT) объявляет, что больше не поддерживает широко известную научную работу по искусственному интеллекту, написанную одним из его бывших аспирантов.

Статья, которую можно найти здесь, привлекла широкую общественность утверждением, что использование инструмента искусственного интеллекта в лаборатории материаловедения привело к увеличению числа открытий, но при этом ученые стали меньше удовлетворены своей работой.

MIT опубликовал в пятницу заявление, в котором говорится, что университет «не имеет уверенности в происхождении, надежности или достоверности данных и не доверяет достоверности исследования, изложенного в статье». Университет не назвал имя студента, ссылаясь на законы о конфиденциальности, но автор был идентифицирован The Wall Street Journal (WSJ) как Эйдан Тонер-Роджерс. Он больше не находится в MIT.

Тонер-Роджерс представил статью под названием «Искусственный интеллект, научное открытие и инновации в продуктах» на крупной экономической конференции и опубликовал ее в прошлом году. В то время ей высказали одобрение экономисты MIT Дарон Асемоглу, который получил Нобелевскую премию в 2024 году, и Дэвид Автор, который заявил, что был «поражен» результатами, как было ранее сообщено WSJ.

Но в январе компьютерный ученый поставил под сомнение существование лаборатории и работу инструмента ИИ. Не в состоянии разрешить эти сомнения, Ачемоглу и Аутор обратились в MIT, который затем провел конфиденциальное расследование, как сообщал WSJ.

После этого университет потребовал, чтобы статья была удалена как из научного журнала, где она была опубликована, так и с общедоступного предварительного сайта arXiv. WSJ сообщил, что MIT отказался уточнять, в чем заключались ошибки в статье, и заявил, что принял это решение исходя из «законов о конфиденциальности студентов и политики MIT».

MIT подчеркнул, что защита целостности исследований имеет ключевое значение, утверждая, что статья «должна быть отозвана из публичного обсуждения», чтобы избежать распространения неверных заявлений о влиянии ИИ.

Этот инцидент усилил уже существующие опасения о применении генеративного ИИ в научных исследованиях. Растущее использование ChatGPT и подобных инструментов в академической деятельности привело экспертов к предупреждению о растущей опасности контента, сгенерированного ИИ.

Конкретно, отсутствие обнаруживаемых манипуляций с этими изображениями затрудняет идентификацию мошеннических действий. Исследователи полагают, что контент, созданный с помощью ИИ, может уже проникать в научные журналы без обнаружения, что ставит под угрозу доверие к научной литературе.