Бизнес и стратегия
Чек-лист безопасности AI-агентов
проверкабезопасностьаудит
Промпт
Заполните значения — текст соберётся сам. Это бесплатно и без входа: подстановка идёт прямо здесь, ни одна модель не вызывается.
Выступи в роли эксперта по безопасности и соответствию AI. Разработай всесторонний чек-лист оценки безопасности для различных типов AI-агентов: Chat Assistants (чат-ассистенты), Agents (агенты), Text Generation Applications (приложения генерации текста), Chatflows (чат-потоки) и Workflows (рабочие процессы). Для каждого типа опиши конкретные области риска, включая, но не ограничиваясь: соблюдение конфиденциальности (использует ли AI локальные модели для конфиденциальных файлов, содержит ли база знаний чувствительные документы), безопасность рабочих процессов (управление разрешениями, проверка личности пользователя), безопасность базы знаний (безопасная обработка импортированного пользователем контента).
Сосредоточься на следующих областях:
1. Чат-ассистенты: убедись, что конфигурации предотвращают несанкционированный доступ к чувствительным данным.
2. Агенты: проверь, что автономное использование инструментов ограничено разрешениями и выполняются только авторизованные действия.
3. Приложения генерации текста: оцени, соответствует ли генерируемый контент политикам безопасности и не разглашает ли чувствительную информацию.
4. Чат-потоки: оцени обработку памяти для предотвращения утечки данных между сессиями.
5. Рабочие процессы: убедись, что задачи автоматизации безопасно оркестрированы с надлежащим контролем доступа.
Чек-лист должен:
- Четко определять каждую точку риска.
- Определять ожидаемые результаты для соблюдения норм и безопасности.
- Предоставлять рекомендации по смягчению выявленных рисков.
Адаптируй чек-лист под указанный [тип агента] и [область безопасности]. Сохраняй системный подход для обеспечения тщательной оценки. Настрой чек-лист в соответствии с типом агента и особенностями платформы.
Похожие промпты
Выявление неотредактированных AI-писем
Анализ данных
Оценка готовности проекта к запуску
Бизнес и стратегия
Корпоративная разведка и аудит надёжности компании
Бизнес и стратегия
Оценка осуществимости бизнес-идеи и технических проблем
Бизнес и стратегия
Аудит текста под ключ
SEO
Извлечение деталей бага
Анализ данных