Criação do Instituto Nacional de Avaliação e Segurança da Inteligência Artificial

A França está comprometida a apoiar o desenvolvimento da inteligência artificial e acompanhar a transformação da economia que ela induz.

O anúncio da criação do INESIA foi feito pouco antes da Cúpula de Ação para Inteligência Artificial, que ocorreu entre 6 e 11 de fevereiro, em Paris. O instituto deve reunir os principais players nacionais especializados na área da inteligência artificial.

Qual é o papel do INESIA?

A missão deste instituto é reunir, sem criar uma nova estrutura jurídica, instituições nacionais na avaliação e segurança:

• Agência Nacional de Segurança de Sistemas de Informação (ANSSI);
• Instituto Nacional de Pesquisa em Ciências e Tecnologias Digitais (Inria);
• Laboratório Nacional de Metrologia e Ensaios (LNE);
• Centro de Especialização em Regulação Digital (PEReN).

O trabalho do INESIA deve estar centrado em:

• Análise de riscos sistêmicos no domínio da segurança nacional;
• Apoio à implementação da regulamentação da IA;
• Avaliação do desempenho e da confiabilidade dos modelos de IA.

O INESIA deve ser gerenciado pela Secretaria Geral de Defesa e Segurança Nacional (SGDSN) e pela Direção Geral de Empresas (DGE) do Ministério da Economia, Finanças e Soberania Industrial e Digital.

O novo instituto, sublinha o Ministério da Economia, permitirá à França “desempenhar plenamente o seu papel na rede internacional de Institutos de Segurança de IA”. 

Juntamente com outros países (como Canadá, Coreia do Sul, Estados Unidos e Japão) e a Comissão Europeia, o INESIA trabalhará para “promover a segurança, a inclusão e a confiança na IA”.

Prevenção de riscos

O instituto também faz parte das ações tomadas pela França de acordo com as prioridades estabelecidas em maio de 2024 pela Declaração de Seul para uma IA segura, inovadora e inclusiva.

Como explica o Ministério da Economia, o Estado francês, “na sua vontade de apoiar o desenvolvimento da inteligência artificial e de acompanhar a transformação da economia que ela induz, contribui para estudar cientificamente todos os efeitos desta tecnologia, inclusive em termos de segurança”. 

Pareceu portanto necessário, acrescenta o ministério, desenvolver “ferramentas que garantam a sua segurança, a fim de apoiar o seu desenvolvimento e supervisionar a sua utilização em sectores sensíveis como a medicina, a educação, a indústria ou a informação”. 

O apoio à inovação no domínio da inteligência artificial “deve andar de mãos dadas com a antecipação dos possíveis riscos inerentes a esta nova tecnologia”.