Instituto Igarapé e New America lançam guia sobre inteligência artificial segura para tomadores de decisão no Sul Global.
“Inteligência Artificial Responsável e Segura: Um Guia para Legisladores no Sul Global” foi produzido com contribuições de um Grupo de Trabalho Global sobre Análise Preditiva para Segurança e Desenvolvimento, que inclui 15 dos principais pensadores, praticantes e defensores da Inteligência Artificial no mundo.
A inteligência artificial (IA) vem transformando o panorama da política global, em economias e sociedades de alta, média e baixa renda. À medida que o ritmo e a escala das mudanças se aceleram, a necessidade de uma IA clara e responsável nunca foi tão urgente. Os princípios e padrões para uma IA segura e protegida estão avançando rapidamente na América do Norte, na Europa Ocidental e na Ásia Oriental. O progresso é muito mais lento no Sul Global. Para ajudar a fechar essa lacuna, o Instituto Igarapé e a New America produziram um manual simples, chamado “Inteligência Artificial Responsável e Segura: Um Guia para Legisladores no Sul Global”. O conteúdo oferece recomendações práticas para ajudar tomadores de decisão e praticantes a navegar no design, desenvolvimento e implementação de uma IA segura e protegida.
O guia foi produzido com contribuições de um Grupo de Trabalho Global sobre Análise Preditiva para Segurança e Desenvolvimento, estabelecido pelo Instituto Igarapé e pela New America. O Grupo de Trabalho inclui 15 dos principais líderes em tecnologia, ética e ativismo pelos direitos digitais no mundo, vindos dos cinco continentes e representando uma diversidade de formação disciplinar e experiências, incluindo ciência de dados, direito, jornalismo, ativismo e até mesmo um Prêmio Nobel. Criado em 2022, o grupo gerou essas recomendações para garantir uma IA mais responsável, transparente e ética em contextos do Sul Global.
Com a Inteligência Artificial se tornando uma característica cada vez mais central na vida cotidiana, afetando bilhões de pessoas e trilhões de ações diárias, é necessário uma análise muito mais sofisticada sobre suas oportunidades e riscos. É especialmente importante que o Sul Global se envolva mais profundamente com a IA, não apenas para garantir que os ganhos econômicos da IA contribuam para os objetivos de desenvolvimento sustentável, mas também para proteger as pessoas dos potenciais danos causados pela IA. As complexidades do ciclo de vida da IA e suas múltiplas aplicações exigem uma abordagem política abrangente e processos robustos de avaliação de riscos são essenciais para minimizar danos não intencionais.
O relatório coincide com o recente acordo sobre uma Resolução da Assembleia Geral da ONU sobre Inteligência Artificial Segura, Protegida e Humana e o Relatório Provisório das Nações Unidas sobre Governança de IA para a Humanidade. Ele apresenta várias condições prévias fundamentais para uma IA segura e protegida, incluindo centralidade no ser humano, responsabilidade, inclusividade, interesse público e o papel fundamental da governança de dados. O foco em uma IA responsável e segura é crítico em 2024, especialmente quando países como Brasil, Indonésia, África do Sul e a União Africana trabalham com quadros regulatórios.
Uma preocupação urgente destacada no guia é a distribuição desigual de regulamentações e capacidades de IA ao redor do mundo. Há um desequilíbrio notável na participação em princípios, padrões e regulamentações de IA segura e responsável: 63% dos princípios de IA identificados vêm da Europa, Estados Unidos e China, enquanto apenas 2% foram desenvolvidos em países africanos; 5% na América Latina e no Caribe e 19% na Ásia. Essas disparidades representam um risco, já que as normas e regras desenvolvidas no Norte Global podem não levar adequadamente em consideração as variações políticas, sociais, econômicas e culturais inerentes ao Sul Global. O manual faz um apelo para que se invista mais em estratégias para amplificar a voz e as capacidades dos países de baixa e média renda, que correm o risco de ficar ainda mais para trás na regulamentação de uma IA segura e protegida.
O guia Inteligência Artificial responsável e segura” advoga por um design e desenvolvimento equitativos, participativos e interpretáveis da IA, juntamente com robustas salvaguardas contra o uso indevido durante sua implementação. “A política e regulamentação sobre IA deve ser baseada nas necessidades e benefícios dos usuários, nos riscos associados à tecnologia e nas mais amplas aspirações sociais e econômicas. Ao abordarem a política sobre IA de forma sistemática e holística, os líderes podem contribuir efetivamente para uma governança de IA que sirva às suas regiões, países e comunidades”, diz o Dr. Robert Muggah, co-fundador e diretor de inovação do Instituto Igarapé.
“Inteligência Artificial Responsável e Segura: Um Manual para Legisladores no Sul Global” está disponível para download em aqui.
Para obter mais informações, entre em contato com Raphael Lima através de: raphael.lima@igarape.org.br, press@igarape.org.br ou joao@pensatacom.com.
Sobre Igarapé Institute
O Instituto Igarapé é um think and do tank independente, que desenvolve pesquisas, soluções e parcerias com o objetivo de impactar tanto políticas como práticas públicas e corporativas na superação dos principais desafios globais. Nossa missão é contribuir para a segurança pública, digital e climática no Brasil e no mundo. O Igarapé é uma instituição sem fins lucrativos e apartidária, com sede no Rio de Janeiro e atuação do nível local ao global.
Sobre New America
New America é um think tank e empresa cívica dedicada a renovar, reimaginar e concretizar a promessa da América em uma era de rápida mudança tecnológica e social. Desde 1999, New America tem promovido uma nova geração de especialistas em políticas e intelectuais e tem sido pioneira em iniciativas políticas audaciosas e bem-sucedidas em áreas que vão desde a educação até a tecnologia aberta e a reforma política. Como principal incubadora e aceleradora de ideias da nação, New America tem a capacidade única de inovar rapidamente novos programas e escalar programas existentes que abordem os problemas mais relevantes em nossa sociedade, hoje e nas décadas futuras.
