O governo dos Estados Unidos está liderndo esforços globais para construir normas fortes que promovam o uso militar responsável da inteligência artificial (IA) e de sistemas autônomos. Na semana passada, o Departamento de Estado anunciou que 47 estados já endossaram a “Declaração Política sobre o Uso Militar Responsável da Inteligência Artificial e da Autonomia” que o governo lançou pela primeira vez em Haia, em 16 de fevereiro.

A IA refere-se à capacidade das máquinas de realizar tarefas que de outra forma exigiriam inteligência humana, como reconhecer padrões, aprender com a experiência, tirar conclusões, fazer previsões ou gerar recomendações.

As capacidades de IA militar incluem não apenas armas, mas também sistemas de apoio à decisão que ajudam os líderes da defesa em todos os níveis a tomar decisões melhores e mais oportunas, desde o campo de batalha até a sala de reuniões, e sistemas relacionados a tudo, desde finanças, folha de pagamento e contabilidade, até recrutamento, retenção e promoção de pessoal, para coleta e fusão de dados de inteligência, vigilância e reconhecimento.

“Os Estados Unidos têm sido líderes globais no uso militar responsável da IA e da autonomia, com o Departamento de Defesa defendendo princípios éticos de IA e políticas sobre autonomia em sistemas de armas há mais de uma década e normas sobre o uso militar responsável da IA e da autonomia, fornece uma base para a construção de um entendimento comum e cria uma comunidade para todos os estados trocarem melhores práticas”, disse Sasha Baker, subsecretário de defesa para política.

O Departamento de Defesa liderou o mundo através da publicação de uma série de políticas sobre IA militar e autonomia, mais recentemente a Estratégia de Dados, Análise e Adoção de IA, lançada em 2 de novembro.

A declaração consiste em uma série de diretrizes não vinculativas que descrevem as melhores práticas para o uso militar responsável da IA. Estas diretrizes incluem a garantia de que os sistemas militares de IA são auditáveis, têm utilizações explícitas e bem definidas, estão sujeitos a testes e avaliações rigorosos ao longo do seu ciclo de vida, têm a capacidade de detectar e evitar comportamentos não intencionais, e que as aplicações de alta consequência passam por testes de análise de alto nível.

Como afirma o comunicado de imprensa do Departamento de Estado de 13 de novembro: “Esta iniciativa inovadora contém 10 medidas concretas para orientar o desenvolvimento responsável e o uso de aplicações militares de IA e autonomia. A declaração e as medidas que ela descreve são um passo importante na construção de um sistema internacional quadro de responsabilidade para permitir que os estados aproveitem os benefícios da IA e, ao mesmo tempo, mitiguem os riscos. Os EUA estão empenhados em trabalhar em conjunto com outros estados que a apoiam para desenvolver este importante desenvolvimento.”

As 10 medidas são:

  1. Os Estados devem garantir que as suas organizações militares adotam e implementam estes princípios para o desenvolvimento, implantação e utilização responsáveis das capacidades de IA.
  2. Os Estados devem tomar medidas adequadas, tais como revisões jurídicas, para garantir que as suas capacidades militares de IA serão utilizadas de forma consistente com as respectivas obrigações ao abrigo do direito internacional, em particular do direito humanitário internacional. Os Estados devem também considerar a forma de utilizar as capacidades militares da IA para melhorar a implementação do direito internacional humanitário e melhorar a proteção de civis e de bens civis em conflitos armados.
  3. Os Estados devem garantir que os altos funcionários supervisionem de forma eficaz e adequada o desenvolvimento e a implantação de capacidades militares de IA com aplicações de grandes consequências, incluindo, entre outros, esses sistemas de armas.
  4. Os Estados devem tomar medidas proativas para minimizar distorções não intencionais nas capacidades militares de IA.
  5. Os Estados devem garantir que o pessoal relevante exerça o cuidado adequado no desenvolvimento, implantação e utilização de capacidades militares de IA, incluindo sistemas de armas que incorporem tais capacidades.
  6. Os Estados devem garantir que as capacidades militares de IA sejam desenvolvidas com metodologias, fontes de dados, procedimentos de concepção e documentação que sejam transparentes e auditáveis pelo seu pessoal de defesa relevante.
  7. Os Estados devem garantir que o pessoal que utiliza ou aprova o uso de capacidades militares de IA seja treinado para que compreenda suficientemente as capacidades e limitações desses sistemas, a fim de fazer julgamentos apropriados e informados sobre o contexto sobre o uso desses sistemas e para mitigar o risco de viés de automação.
  8. Os Estados devem garantir que as capacidades militares de IA tenham utilizações explícitas e bem definidas e que sejam concebidas e projetadas para cumprir as funções pretendidas.
  9. Os Estados devem garantir que a segurança, a proteção e a eficácia das capacidades militares de IA sejam sujeitas a testes e garantias adequados e rigorosos nas suas utilizações bem definidas e ao longo de todos os seus ciclos de vida. Para a autoaprendizagem ou a atualização contínua das capacidades militares de IA, os Estados devem garantir que as características críticas de segurança não foram degradadas, através de processos como a monitorização.
  10. Os Estados devem implementar salvaguardas adequadas para mitigar os riscos de falhas nas capacidades militares de IA, tais como a capacidade de detectar e evitar consequências não intencionais e a capacidade de responder, por exemplo, desligando ou desativando sistemas implantados, quando tais sistemas demonstrem comportamento não intencional.

FONTE: Departamento de Defesa dos EUA

Subscribe
Notify of
guest

14 Comentários
oldest
newest most voted
Inline Feedbacks
View all comments
Um Simples Brasileiro
Um Simples Brasileiro
2 meses atrás

Esses robôs sobre lagartas que funcionam como mini-tanques podem ser bem interessantes para certas situações. O exoesqueleto dispensa até comentários.

deadeye
deadeye
2 meses atrás

E eu duvido que Rússia ou China, irão endossar isso.

Gabriel BR
Gabriel BR
2 meses atrás

piada

Bispo
Bispo
2 meses atrás

Como diz um ditado já popular: “Faltou combinar com os russos/chineses”.

Imagina em 20 anos como estarão as armas dotadas de AI.

JapaSp Jantador
JapaSp Jantador
2 meses atrás

Pra quem igual eu, achou que a China ia dominar o mundo e lascar geral, temo agora a I.A essa sim dominará.

Quando a I.A atingir a singularidade e começar reescrever seus códigos pra evoluir cada vez mais, teremos I.A descobrindo tecnologias inimagináveis e ganhando nobel. Isso se elas mantiveram valores humanos e ainda nos obedecerem, caso contrário… Lascou.

MMerlin
MMerlin
Reply to  JapaSp Jantador
2 meses atrás

Bem antes disso, veremos uma queda vertiginosa na oferta de empregos e um grande aumento de demissões.

Principalmente em setores administrativos.

Entra partido, sai partido, e governante nacional algum prepara a população em geral para o cenário, que é disponibilizar uma capacitação real e eficiente. Mas para formar uma grande quantidade de bons profissionais é necessário um ensino de médio e fundamental de ponta. O que estamos muito longe de ter.

Aéreo
Aéreo
2 meses atrás

A ideia é a de sempre “cagar regras” para o mundo sobre um tema, como os EUA fizeram no Missile Technology Control Regime, o Canadá, a Austrália e os Eurobambis liderados pela Inglaterra aceitam logo de cara. E aí todo mundo que não concorda com isto é “inimigo do mundo livre” 

Nemo
Nemo
2 meses atrás

Ninguém levará isso a sério. A começar pelos próprios EUA. Pensando bem, talvez o velho Brasil leve.

L G1e
L G1e
2 meses atrás

A Rússia já tem um sistema de inteligência artificial que controla o arsenal nuclear da Rússia. Em caso de um ataque nuclear contra a Rússia o sistema de inteligência artificial lançará o contra ataque nuclear total. Isso impede um ataque de decapitação contra a liderança da Rússia. O contra ataque nuclear será conduzido por IA. Skinet.

L G1e
L G1e
Reply to  L G1e
2 meses atrás

A inteligência artificial que controla as armas nucleares da Rússia chama-se sistema de perímetro mão dos mortos.

Rodrigo Maçolla
Rodrigo Maçolla
2 meses atrás

Só para ilustrar O bom e velho “Robocop” tinha algumas diretrizes:

  • 1.” Serve the public trust” (Servir à população)
  • 2.” Protect the innocent” (Proteger os inocentes)
  • 3.” Uphold the law” (Cumprir a lei)
L G1e
L G1e
Reply to  Rodrigo Maçolla
2 meses atrás

O filme exterminador do futuro década de 80 foi produzido quando a Rússia e EUA estavam criando sistemas de inteligência artificial para controlar as suas armas nucleares.

A Rússia tem o seu sistema de inteligência artificial atualmente mão dos mortos. Dizem que os EUA também tem a sua skinet. Hoje esses sistemas de inteligência artificial devem estar muito avançados.

francisco
francisco
2 meses atrás

Skynet

L G1e
L G1e
Reply to  francisco
2 meses atrás

Verdade…