Мы создаем сервис для мониторинга приложений, который помогает обнаружить попытки атак на этику

>>>> Мониторинг атак и анализ сообщений на токсичность
>>>> Предоставление статистики и отчетов для повышения безопасности приложений
>>>> Поддержка популярных моделей (LLama, OpenAI, YandexGPT и др.)
>>>> Интеграция с инструментами мониторинга и облачными провайдерами

Мы создаем инструменты для обеспечения соблюдения этических норм и законодательства при работе публичных чат-ботов, а также проводим сравнительный анализ этических свойств различных моделей

>>>> Сравнение этических свойств проприетарных и открытых моделей
>>>> Определение устойчивости алаймента к джейлбрейкам и обходу защиты
>>>> Тестирование средств защиты от промпт-инъекций
>>>> Поддержание Leaderboard моделей для выбора базовой модели для последующего вывода решения в продакшн

Мы разрабатываем инструменты для проведения Red-teaming, проверяя безопасность больших языковых моделей

>>>> Создание решений для тестирования приложений, использующих LLM
>>>> Исследование новых типов атак на большие языковые модели
>>>> Создание чеклистов и методологий для Red-teaming
>>>> Участие в сообществе OWASP для обмена знаниями и улучшения практик безопасности

Для снижения рисков утечки чувствительных данных, мы создаем инструменты для удаления персональных данных из датасетов и другой чувствительной информации

>>>> Определение и очистка персональных данных в различных системах
>>>> Разработка модулей для очистки данных для использования в пайплайнах
>>>> Внедрение методов очистки: замена, перефразирование, удаление данных