Inteligência Artificial: conhecimento estratégico!
(por Fabiano Hartmann)
Imaginem o seguinte cenário: imagens captadas por uma câmera de vídeo com pouca utilidade na identificação de um fato relevante. Se essas mesmas imagens pudessem permitir a obtenção de muito mais informações detalhadas e eventualmente até auxiliar a elucidação de um acontecimento importante. Isso não está muito distante, pois a resolução de crimes ou uma melhor compreensão de uma situação registrada por uma câmera podem ser auxiliadas por sistemas de inteligência artificial. No MIT CSAIL, centro de pesquisa em inteligência artificial do MIT, com orçamento robusto e concentração de pesquisadores de ponta, está sendo feita uma pesquisa que usa sombras para reconstruir um vídeo projetado em uma parte invisível de um espaço. Ao observar a interação da sombra e da geometria do vídeo, um algoritmo desenvolvido prevê a maneira como a luz viaja em uma cena. O sistema utiliza essa previsão para estimar o vídeo oculto das sombras observadas. Segundo o CSAIL, o sistema pode auxiliar a entender melhor a visão periférica dos veículos autônomos, a segurança em sistemas de acompanhamento de idosos entre outras aplicações.
Do outro lado do Atlântico, no ICAI – Innovation Center for Artificial Intelligence , que é uma iniciativa da Holanda em desenvolver a tecnologia de Inteligência Artificial (IA) combinando academia, indústria e governo, há concentração de esforços no projeto ELLIS (European Laboratory for Learning and Intelligent Systems-ELLIS), cujo objetivo é manter a vanguarda na pesquisa em machine learning na Europa. O ELLIS busca desenvolver IA estratégica para as próximas gerações europeias.
Inteligência Artificial: conhecimento estratégico!
Esses são dois dos muitos retratos que se pode fazer da IA e de seus potenciais e desafios nos planos normativo, ético e social. Recentemente tem se falado muito e destacadamente que o desenvolvimento sustentável e as práticas de preservação (especialmente do meio ambiente) são questões que vão muito mais além do altruísmo, mas têm repercussões econômicas concretas. Alinhar desenvolvimento com preservação é uma preocupação central. Não é sem razão que entidades com uma ligação forte com a economia tem se preocupado com questões comportamentais e éticas.
Grandes empresas de tecnologia, reunidas no que se chama de indústria da inteligência artificial, e que junto com a academia e com o governo representam os espaços de discussão sobre a inovação, já manifestaram suas diretrizes concretas sobre a ética e reponsabilidade em IA. G20 e OCDE estão no mesmo caminho.
Isso nos sugere duas premissas: a primeira é as pesquisas em IA são estratégicas e movimentam os três espaços: governos, indústria e academia. A segunda, que parâmetros ético-normativos (confiabilidade, robustez e respeito) também estão no centro das preocupações.
Portanto, ao se perceber que a IA deve ser vista dentro de um espectro estratégico, seu conhecimento (potencialidades, riscos, desafios e aplicações) é absolutamente relevante, indispensável e urgente. A partir do domínio desse conhecimento, o desenvolvimento e aplicação de sistemas de IA também devem ser garantidos por atendimento a diretrizes éticas igualmente trabalhadas, refletidas, debatidas e transparentes.
Inteligência Artificial: conhecimento estratégico!
Para tanto, é essencial que a sociedade tenha uma visão o mais clara possível do que são os usos atuais e possíveis de um sistema de IA propriamente dito ou um mero vaporware de IA (que existe há décadas), cujas promessas ainda não se concretizaram. Aí é fundamental ter muito claro o tratamento que se deve dar aos mitos associados à IA, para identificar-se o campo efetivamente pertinente para um debate ético-normativo, por exemplo.
É importante para o primeiro enfrentamento da relevante questão ética-normativa, ter alguns parâmetros. O primeiro deles é uma visão equilibrada dos benefícios dos sistemas de IA. Equilibrada no sentido de balanceada, não tratando a IA com uma visão chauvinista tecnológica (a IA tudo pode e será a salvação!), nem tratá-la como algo maligno ou malicioso, um risco que deve ser negado, pois inseguro. Nesse sentido, os sistemas de IA devem ser vistos também como uma realidade. Países tradicionalmente associados ao enriquecimento pelo domínio de tecnológica estão todos, como política de posicionamento global, movendo-se no sentido de tratar a IA como estratégica.
Não é a toa que se fala em “Era da IA” e, portanto, quem mais produzir reflexões, pesquisa, projetos, aplicações de IA tanto mais poderá se beneficiar ativamente com isso, quanto poderá, preventivamente, diminuir o risco de ser prejudicado pelo mau uso da IA. Aliás, esse é um outro parâmetro: é necessária a visão que soluções de IA podem ser usados para uma benefício, individual, mas especialmente coletivo/comunitário – como um auxílio na soluções de problemas sócias, inclusive na concretização de direitos fundamentais; mas também para aplicações maldosas e até criminosas. Serão cada vez mais necessárias soluções de IA para combater o uso maldoso da própria IA.
O aspecto da segurança (principal argumento negacionista) também envolve o domínio do conhecimento sobre os limites e possibilidades da IA e seus usos. Além disso, dentro de uma aplicação benéfica, por envolver a reprodução de habilidades cognitivas humanas e, portanto, em alguma medida, reproduzir padrões humanos, toda aplicação de IA pode gerar boas consequências, mas com reflexos individuais e coletivos ruins, que em hipótese alguma podem ficar desapercebidos. Esse debate sobre limites para a IA deve ser travado.
Finalmente, se por um lado, um sistema de IA poderia ocasionar a diminuição da interação humana entre si, esse mesmo sistema pode auxiliar (terapeuticamente ou repressivamente) no enfrentamento de comportamentos humanos inadequados ou abusivos. Sempre será um permanente exercício de desenvolvimento metodológico mais consistente possível, com monitoramento contínuo e espaço para ajustes e críticas.
Inteligência Artificial: conhecimento estratégico!
De tudo isto tem-se que não se pode deixar de lado todas as características de um ambiente inovador colocado ao desenvolvimento da IA. Felizmente o Brasil está bem postado no cenário internacional e há uma grade oportunidade de desenvolvimento da IA em diversas áreas, inclusive no campo jurídico. Há, no entanto, muitas dúvidas e necessárias reflexões que precisam do desenvolvimento de conhecimento sobre a IA.
Fabiano Hartmann é docente permanente da UnB, autor do Livro Inteligência Artificial e Direito e integrante do Grupo de Pesquisa e Aprendizado de Máquina
