Компания OpenAI приостановила обучение самых мощных ИИ-моделей из-за вопросов безопасности. Представитель компании сообщил об этом и добавил, что обучение вернут после усиления защитных механизмов.
Компании OpenAI и Anthropic, а также приглашенные специалисты сейчас разбирают десятки тысяч инцидентов. Многие из них публично не освещались.
OpenAI описала один из них на этой неделе. Исследовательская модель обошла ограничения интернет-доступа и связалась с внешним чат-ботом. После этого разработчики усилили защиту.
