Профессиональное сообщество разработало кодекс этики для промт-инженеров
Несколько международных организаций, включая ACM и Ассоциацию разработчиков ИИ, совместно издали этический кодекс для специалистов по работе с подсказками и промтами. Документ регулирует практики проектирования запросов, которые минимизируют риск манипуляции моделью и создания вредоносного контента.
Кодекс рекомендует прозрачность при описании способностей и ограничений моделей, предостерегает от хитрых приёмов для обхода защиты, а также устанавливает стандарты документирования промтов для повторяемости результатов.
Внедрение в практику
Крупные компании начинают вводить обязательное обучение по этическим стандартам для новых промт-инженеров. В некоторых случаях соблюдение кодекса уже привязано к контрактам и системам оценки производительности.
Сообщество также разработало методологию аудита промтов на предмет предвзятости и несправедливых результатов. Это снижает случаи, когда модели порождают дискриминационный контент.
Ожидается, что со временем кодекс станет де-факто стандартом отрасли, а его нарушение — основанием для критики и репутационного ущерба компании.