Esta seção constrói um framework de "Desafios Centrais da Segurança em IA", que se desdobra em torno de quatro dimensões interligadas: Primeiro, a complexidade sistemática do cenário de ameaças e da estrutura de risco, abrangendo desde cadeias de ataque que se estendem pelas quatro camadas de dados-modelo-aplicação-sistema, envenenamento da cadeia de suprimentos e poluição da fonte de recuperação RAG, até desvios de distribuição e defeitos de robustez no pior caso em ambientes do mundo real, enfatizando a transmissão e amplificação de riscos em múltiplas camadas. Segundo, a lacuna estrutural na avaliação e medição de segurança, incluindo as limitações de cobertura da avaliação adversarial e da avaliação de red team, as trocas realistas entre robustez e utilidade, e a dificuldade em definir e auditar comportamentos não autorizados em cenários de chamada de ferramentas. Terceiro, novos riscos dinâmicos impulsionados por LLM e AIGC, como ataques de alucinação estrategizados e transformados em armas, o salto de ataque "linguagem para ação" amplificado pelo ecossistema de plug-ins e ferramentas, e o sequestro latente causado pela injeção de contexto longo e contaminação de memória. Quarto, a tensão inerente entre paradigmas de defesa e mecanismos de governança, refletida nos gargalos de custo e escalabilidade do treinamento adversarial e da robustez certificada, o "triângulo impossível" entre privacidade e desempenho em privacidade diferencial e aprendizado federado, as trocas de usabilidade da marca d'água do modelo e da governança da interface, e os conflitos e dificuldades de implementação operacional entre segurança, justiça, transparência, explicabilidade e outros objetivos multidimensionais de confiabilidade sob requisitos regulatórios como GDPR/AI Act. O framework completo tem como objetivo destacar que esses desafios não existem isoladamente, mas formam uma rede de risco em evolução dinâmica através de links de dados, modelo, sistema e governança, exigindo uma resposta coordenada nos três níveis de defesa técnica, sistema de avaliação e macro governança.
```python import os import re import numpy as np import pand...