Стартап CalypsoAI разработал технологию, которая позволяет тестировать и контролировать программное обеспечение с помощью больших языковых моделей (LLM), включая ChatGPT и другие популярные инструменты искусственного интеллекта.
Сотрудники CalypsoAI больше не будут тратить время на редактирование каждого текста, созданного LLM. Теперь новая панель управления оценивает качество ответов, выявляет потенциальные проблемы и отслеживает взаимодействие с пользователями самостоятельно. Главная цель — предотвратить раскрытие личных данных и возможное негативное влияние на бренд компании. Также панель управления помогает обнаружить вредоносные атаки с использованием генеративной технологии искусственного интеллекта.
Неправильный подход к снижению риска утечки данных — это запрет на использование LLM или установление письменных руководящих принципов, что могут подумать многие организации. Это приводит к их отставанию в цифровой сфере, в то время как их конкуренты успешно внедряют технологии для инноваций. Решение — проект CalypsoAI, он обеспечивает кибербезопасность при работе с ИИ-инструментами.
