À semelhança de outras famílias de modelos equivalentes, a família de modelos AMALIA também contempla um modelo de salvaguardas (guardrails) para aumentar a segurança de aplicações de IA generativa.

Enquanto os LLMs têm segurança embutida de forma natural, o modelo de salvaguardas tem como função proteger os outros componentes de aplicações de IA generativa. Este modelo deve atuar ao nível dos pedidos dos utilizadores, filtrando pedidos perigosos que devem ser barrados de imediato, protegendo assim o bom funcionamento do sistema informático.

O modelo está disponível no HuggingFace.

— A equipa AMALIA