Описание

Что такое «барьеры для искусственного интеллекта» (AI guardrails)? Инструменты, обеспечивающие ответственное, этичное и безопасное использование больших языковых моделей (LLM), в соответствии с внутренними регламентами и стандартами организации. Например, помогают выявить, исправить и удалить вредоносный контент, защитить конфиденциальные данные. Выполняя контрольные задачи, AI guardrails повышают эффективность рабочих процессов и помогают избежать дополнительных издержек (экономических, юридических). AI guardrails выполняют четыре взаимосвязанных функции: обнаружение и выделение ошибок; исправление и/или улучшение результатов ИИ; оценка соответствия полученных результатов внутренним стандартам; инициация проверки и агрегация результатов. Для оперативного внедрения AI guardrails McKinsey рекомендует: (1) определить метрики качества контента на основе корпоративных стандартов и действующего законодательства; (2) использовать библиотеки с открытым исходным кодом и интегрировать зарекомендовавшие себя приложения.