OpenAI объявляет о новых мерах безопасности для подростков

OpenAI объявила во вторник, что внедрит новые меры безопасности для защиты подростков, свободы пользователей и общей безопасности. Генеральный директор компании, Сэм Альтман, выразил заявление, в котором говорится, что компания разрабатывает систему проверки возраста, чтобы предотвратить обсуждение чат-ботом таких тем, как самоубийство или самоповреждение, а также участие в флирте с несовершеннолетними пользователями.

Согласно объявлению OpenAI, компания вводит новые слои безопасности для защиты частных данных в рамках своего первого принципа: безопасность. Компания подчеркнула, что даже ее сотрудники не могут получить доступ к частным данным — за исключением случаев, связанных с злоупотреблениями, сообщенными AI, или критическими рисками.

Второй принцип, свобода, направлен на предоставление пользователям большей гибкости и возможностей в использовании инструментов искусственного интеллекта. Однако третий принцип компании, безопасность, акцентирует внимание на защите детей.

Альтман объяснил, что компания хочет следовать своему внутреннему девизу: «относиться к нашим взрослым пользователям как к взрослым», но без причинения вреда и с новыми фильтрами для определения возраста пользователя.

«Например, стандартное поведение нашей модели не приведет к сильно флиртующему общению, но если взрослый пользователь этого запросит, он должен это получить», — говорится в документе. «Рассмотрим гораздо более сложный пример: по умолчанию модель не должна предоставлять инструкции о том, как совершить самоубийство, но если взрослый пользователь просит помощи в написании вымышленной истории, изображающей самоубийство, модель должна помочь с этим запросом.»

Решение было принято после того, как семья подала иск к OpenAI в августе в связи с самоубийством 16-летнего подростка, в то время как другие технологические компании, такие как Meta, обвинялись в проведении чувственных бесед с детьми и эксплуатации детей с помощью AI чат-ботов.

OpenAI добавило, что работает над системой прогнозирования возраста, и что в некоторых странах оно может потребовать официальные удостоверения личности, выданные государством, от пользователей. При этом они признают, что это может вызвать противодействие со стороны взрослых пользователей, желающих защитить свою приватность.

«Мы понимаем, что эти принципы противоречат друг другу, и не все будут согласны с тем, как мы разрешаем этот конфликт,» — написала Альтман. «Это сложные решения, но после обсуждения с экспертами, мы считаем, что это наилучший вариант и хотим быть прозрачными в своих намерениях.»