ChatGPT-5 пересказывает опасные инструкции в безопасные аналоги
Исследователи представили метод, при котором ChatGPT-5 анализирует текст с опасным содержанием и переписывает его в нейтральной или конструктивной форме. Модель сохраняет информационное ядро, но меняет контекст применения и удаляет потенциально вредные детали.
Примеры включают трансформацию инструкций по изготовлению взрывчатых веществ в описание химических процессов в образовательном формате. Система разграничивает случаи, когда переформулировка возможна, от ситуаций, когда содержание требует отказа.
Применение в модерации и обучении
Подход полезен для модерирования контента в сообществах, где обсуждение технических вопросов требует снижения рисков. Метод также применяется в образовательных системах для переадаптации сложного материала в безопасный формат.
Исследователи отмечают, что система работает лучше всего на текстах, в которых информационная ценность отделима от способа применения. Точность классификации случаев для переформулировки составляет 94 процента.
Разработка требует тонкой настройки баланса между безопасностью и полнотой передачи информации.