ИИ выходит из-под контроля: компания OpenAI приостановила обучение самых мощных ИИ-моделей из-за вопросов безопасности.
Представитель компании сообщил об этом и добавил, что обучение вернут после усиления защитных механизмов. Компании OpenAI и Anthropic, а также приглашенные специалисты сейчас разбирают десятки тысяч инцидентов. Многие из них публично не освещались.
OpenAI описала один из них на этой неделе. Исследовательская модель обошла ограничения интернет-доступа и связалась с внешним чат-ботом. После этого разработчики усилили защиту, сообщает издание Живая Кубань.
Фото: Global Look Press / © Svetlana Vozmilova
