NVidia разработала систему для создания безопасных моделей ИИ

Американский IT-гигант NVidia презентовал ПО под названием NeMo Guardians. Его основная задача – помогать в создании точных, уместных и защищенных систем генеративного искусственного интеллекта.

Новинка дает разработчикам ИИ возможность использовать 3 разных варианта ограничительных механизмов для LLM. Например, они смогут выставлять барьеры, запрещающие программам обработку запросов определенной тематики. А частности, чат-боты, отвечающие за клиентскую поддержку, не будут реагировать на вопросы о погоде. Кроме того, ограничения позволят LLM получать более точную информацию и устанавливать связь с исключительно безопасными сервисами.

Разработчики NeMo Guardians заявляют, что их ПО способно взаимодействовать с любыми языковыми моделями, в число которых входит и ChatGPT. Еще в фирме заявляют, что их система доступна для использования практически всем разработчикам программ. Исходный код новинки открыт, что позволит в дальнейшем развивать безопасность генеративных ИИ с участием множества самых разных специалистов.

NVidia обеспечила клиентам несколько способов для взаимодействия с новой системой

Фирма не сомневается, что новый инструментарий предоставит множеству компаний возможность сделать свои «умные» услуги соответствующими всем современным стандартам безопасности. Еще в NVidia заявили, что их система сможет взаимодействовать со всем инструментарием, уже применяемым разработчиками корпоративного уровня.

Система интегрирована в уже действующую площадку NeMo, позволяющую создавать модели генеративных ИИ. Кроме того, клиенты из сферы бизнеса смогут подключиться к новинке посредством систем AI Enterprise или AI Foundation.

Ранее в этом месяце компания NVidia представила алгоритм, позволяющий создавать реалистичные видеоролики на основе описания в форме текста. В начале осени 2022-го фирма показала новые процессоры, а также ИИ-службы. В их число входит система NeMo LLM, позволяющая создавать языковые модели.