{"id":3660,"date":"2025-10-23T10:08:31","date_gmt":"2025-10-23T13:08:31","guid":{"rendered":"https:\/\/www.ufsm.br\/pet\/sistemas-de-informacao\/?p=3660"},"modified":"2025-10-23T13:11:20","modified_gmt":"2025-10-23T16:11:20","slug":"inteligencia-artificial-uma-questao-etica","status":"publish","type":"post","link":"https:\/\/www.ufsm.br\/pet\/sistemas-de-informacao\/2025\/10\/23\/inteligencia-artificial-uma-questao-etica","title":{"rendered":"Intelig\u00eancia Artificial: Uma quest\u00e3o \u00e9tica"},"content":{"rendered":"\n

A ascens\u00e3o da intelig\u00eancia artificial generativa, capaz de criar textos, sons e imagens com uma capacidade quase humana, marca uma nova fronteira tecnol\u00f3gica. Ferramentas como o ChatGPT e o Midjourney encantam pela sua capacidade de escrever, desenhar, programar, entre outras muitas atividades. No entanto, por tr\u00e1s dessa fachada de criatividade, existe uma verdade fundamental: a IA n\u00e3o \u201cpensa\u201d nem \u201ccria\u201d a partir do nada. Ela \u00e9 uma m\u00e1quina de reconhecimento de padr\u00f5es, um int\u00e9rprete gigantesco de dados que aprende ao receber grandes volumes de informa\u00e7\u00e3o produzida por humanos. E \u00e9 exatamente nessa fonte que reside seu maior desafio \u00e9tico, pois ao aprender com o nosso mundo, a IA tamb\u00e9m aprende, reflete e automatiza os preconceitos e as desigualdades neles contidos.<\/span><\/p>\n

A prova mais vis\u00edvel desse fen\u00f4meno est\u00e1 nos populares geradores de imagem. Em uma investiga\u00e7\u00e3o detalhada de 2023, a ag\u00eancia de not\u00edcias <\/span>Bloomberg<\/b> analisou o modelo Stable Diffusion e revelou um vi\u00e9s sist\u00eamico alarmante. Conforme documentado no artigo \u201c<\/span>Humans Are Biased. Generative AI Is Even Worse<\/b>\u201d, a pesquisa constatou que comandos como \u201cpessoa de baixa renda\u201d geravam imagens de indiv\u00edduos com tons de pele mais escuros, enquanto \u201cpessoa bem-sucedida\u201d produzia predominantemente homens brancos. Profiss\u00f5es de prest\u00edgio, como \u201cjuiz\u201d ou “CEO”, eram principalmente associadas a homens, e as de cuidado a mulheres. Essa \u201cimagina\u00e7\u00e3o artificial\u201d n\u00e3o \u00e9 criativa, \u00e9 um eco dos estere\u00f3tipos extra\u00eddos de bilh\u00f5es de imagens da internet, que acaba por apagar a diversidade do mundo real e apresentar uma caricatura preconceituosa.<\/span><\/p>\n

Quando esse vi\u00e9s migra de imagens ilustrativas para sistemas de aplica\u00e7\u00e3o da lei, as consequ\u00eancias tornam-se ainda mais preocupantes. Em fevereiro de 2023, Porcha Woodruff, uma mulher negra de Detroit, foi presa injustamente em frente aos seus filhos, acusada de roubo de carro. Ela se tornou a sexta pessoa a relatar uma pris\u00e3o indevida baseada em uma correspond\u00eancia facial algor\u00edtmica falha nos EUA e todas elas eram negras. O caso de Randal Reid, um homem negro da Ge\u00f3rgia erroneamente preso em novembro de 2022 por um roubo que ocorreu em outro estado, segue o mesmo padr\u00e3o tr\u00e1gico. Esses incidentes n\u00e3o s\u00e3o mais hip\u00f3teses te\u00f3ricas, s\u00e3o a prova de que tecnologias enviesadas, treinadas com bancos de dados que sub-representam certos grupos \u00e9tnicos e sociais, est\u00e3o sendo usadas para privar cidad\u00e3os de sua liberdade, transformando o c\u00f3digo em uma senten\u00e7a.<\/span><\/p>\n

O grande perigo \u00e9 que a IA parece ser totalmente neutra e imparcial. Enquanto podemos identificar e questionar o preconceito de uma pessoa, o preconceito do algoritmo fica escondido por tr\u00e1s de n\u00fameros e c\u00e1lculos- o que o torna mais perigoso e disfar\u00e7ado. Por isso, uma decis\u00e3o injusta feita por um computador muitas vezes \u00e9 aceita como correta e se torna mais dif\u00edcil de ser contestada. Isso cria um efeito de bola de neve: o sistema toma uma decis\u00e3o preconceituosa (como vigiar mais um bairro de minorias), o que gera mais dados que \u201cprovam\u201d que a decis\u00e3o estava certa (mais pris\u00f5es acontecem ali). Esses novos dados, por sua vez, alimentam o sistema, que refor\u00e7a ainda mais seu preconceito inicial. Desse modo, a desigualdade n\u00e3o s\u00f3 se repete, como se torna mais forte e passa a ser justificada por uma l\u00f3gica que se alimenta de si mesma, tudo isso em uma velocidade e escala que nenhuma pessoa conseguiria atingir sozinha.\u00a0<\/span><\/p>\n

Esses exemplos exp\u00f5em a urg\u00eancia de uma discuss\u00e3o profunda sobre o treinamento \u00e9tico da intelig\u00eancia artificial. O problema n\u00e3o est\u00e1 em uma falha de programa\u00e7\u00e3o, mas em uma falha de concep\u00e7\u00e3o social refletida nos dados. Se um algoritmo \u00e9 alimentado com um hist\u00f3rico de decis\u00f5es humanas que, sutil ou abertamente, favoreceram um grupo em detrimento de outro, ele aprender\u00e1 essa discrimina\u00e7\u00e3o como a norma a ser seguida. A tecnologia, nesse caso, age como um amplificador de injusti\u00e7as estruturais, conferindo uma aura de objetividade e neutralidade a decis\u00f5es que s\u00e3o, na verdade, profundamente enviesadas. A m\u00e1quina n\u00e3o \u00e9 racista ou sexista por si s\u00f3, ela se torna um agente de preconceito ao aprender com uma sociedade que ainda luta contra esses mesmos dem\u00f4nios.<\/span><\/p>\n

Para solucionar esse problema, s\u00e3o necess\u00e1rias a\u00e7\u00f5es em v\u00e1rias frentes. A melhoria da tecnologia, por si s\u00f3, \u00e9 insuficiente; \u00e9 preciso cuidar dos dados utilizados e das regras de controle. Tal abordagem significa selecionar dados com mais cuidado para assegurar diversidade e justi\u00e7a, criar sistemas que permitam fiscaliza\u00e7\u00e3o contra preconceitos e estabelecer leis que obriguem as empresas \u00e0 transpar\u00eancia e \u00e0 responsabilidade. A constitui\u00e7\u00e3o de equipes com profissionais de diversas \u00e1reas como tecnologia, sociologia e direitos humanos \u00e9 crucial para prever e reduzir os problemas. Em resumo, a intelig\u00eancia artificial reflete a sociedade. Se essa imagem \u00e9 preconceituosa, a falha est\u00e1 na fonte, n\u00e3o na ferramenta. A corre\u00e7\u00e3o dos defeitos sociais \u00e9 uma tarefa urgente, para que n\u00e3o se tornem regras permanentes nos c\u00f3digos que guiar\u00e3o o futuro.<\/span><\/p>\n

\u00a0<\/p>\n

Autor(a): Leonardo Winch Dallanora<\/strong><\/p>\n

Refer\u00eancias:<\/b><\/p>\n

Gr\u00e1vida \u00e9 presa por engano: quem \u00e9 a mulher acusada de roubo por erro em tecnologia de reconhecimento facial nos EUA. <\/span>O Globo<\/b>. Dispon\u00edvel em:<\/span> https:\/\/oglobo.globo.com\/mundo\/epoca\/noticia\/2023\/08\/07\/gravida-e-presa-por-engano-quem-e-a-mulher-acusada-de-roubo-por-erro-em-tecnologia-de-reconhecimento-facial-nos-eua.ghtml<\/span><\/a>. Acesso em: 15 out. 2025.<\/span><\/p>\n

NICOLETTI, Leonardo; BASS, Dina. Humans Are Biased. Generative AI Is Even Worse. <\/span>Bloomberg<\/b>. Dispon\u00edvel em:<\/span> https:\/\/www.bloomberg.com\/graphics\/2023-generative-ai-bias<\/span><\/a>. Acesso em: 15 out. 2025.<\/span><\/p>\n

PEREIRA, Ivan. In lawsuit, man claims he was falsely arrested due to misuse of facial recognition. <\/span>ABC News<\/b>. Dispon\u00edvel em:<\/span> https:\/\/abcnews.go.com\/US\/lawsuit-man-claims-falsely-arrested-misuse-facial-recognition\/story?id=103687845<\/span><\/a>. Acesso em: 15 out. 2025.<\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

A ascens\u00e3o da intelig\u00eancia artificial generativa, capaz de criar textos, sons e imagens com uma capacidade quase humana, marca uma nova fronteira tecnol\u00f3gica. Ferramentas como o ChatGPT e o Midjourney encantam pela sua capacidade de escrever, desenhar, programar, entre outras muitas atividades. No entanto, por tr\u00e1s dessa fachada de criatividade, existe uma verdade fundamental: a […]<\/p>\n","protected":false},"author":8504,"featured_media":3661,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[124,112],"tags":[202,149],"class_list":["post-3660","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-destaques","category-redacao","tag-ia","tag-redacao"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.ufsm.br\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/posts\/3660","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ufsm.br\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ufsm.br\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ufsm.br\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/users\/8504"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ufsm.br\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/comments?post=3660"}],"version-history":[{"count":0,"href":"https:\/\/www.ufsm.br\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/posts\/3660\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ufsm.br\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/media\/3661"}],"wp:attachment":[{"href":"https:\/\/www.ufsm.br\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/media?parent=3660"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ufsm.br\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/categories?post=3660"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ufsm.br\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/tags?post=3660"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}