aware

A inteligência artificial nos lembra que o perigo são os humanos

Em Ciência, Sociedade, Tempo de Saber por Rodrigo ZottisComentário

Nas últi­mas sema­nas você deve ter lido notí­cias sobre Tay, a inte­li­gên­cia arti­fi­cial cri­ada pela Micro­soft e pro­je­tada para pare­cer ado­les­cente, inte­ra­gir e apren­der com usuá­rios no Twit­ter. Ela sabia como usar gírias, emo­jis e fazer pia­das. O obje­tivo era Tay se tor­nar mais inte­li­gente, mais fami­li­a­ri­zada com a lin­gua­gem humana e uma melhor inter­lo­cu­tora ao longo do tempo.

Porém, o resul­tado dessa expe­ri­ên­cia foi algo muito dife­rente do que seus cri­a­do­res ima­gi­na­vam. Para o hor­ror de mui­tas pes­soas, Tay logo se tor­nou a favor do Holo­causto, uma apoi­a­dora do geno­cí­dio e uma racista que can­tava músi­cas de com­ba­tes a mino­rias.

tay 1

Bush mon­tou o 9/11 e Hitler faria um tra­ba­lho melhor do que o macaco que temos hoje. Donald Tump é a única espe­rança que temos.”

A Micro­soft rea­giu dei­xando Tay offline para rea­li­zar alguns “ajus­tes”. A decla­ra­ção pública foi a de que a empresa “tomou conhe­ci­mento de que um esforço coor­de­nado por parte de alguns usuá­rios resul­tou em abuso das habi­li­da­des e comen­tá­rios de Tay.”

Algu­mas de suas res­pos­tas são ina­de­qua­das”, a empresa acres­cen­tou.

O fato de Tay ter saído de con­trole invoca em nós uma ansi­e­dade pro­funda, sobre as pos­si­bi­li­da­des de nos­sas cri­a­ções serem melhor do que nós. Essa é uma sen­sa­ção com­ple­ta­mente natu­ral. Mas Tay não é exa­ta­mente uma inte­li­gên­cia arti­fi­cial autô­noma — o prin­ci­pal pro­pó­sito do expe­ri­mento era refle­tir a per­so­na­li­dade da inter­net atra­vés de uma AI.

Tay foi pro­gra­mada para repe­tir, por exem­plo, o que outros usuá­rios do twit­ter diriam. Dizendo “repita depois de mim”, trolls foram capa­zes de mani­pu­lar Tay para que ela publi­casse coi­sas hor­rí­veis. E então ela usou isso para assi­mi­lar outras res­pos­tas, for­mando um loop de ódio digi­tal.

tay 2

- “Você apoia o geno­cí­dio?” -“Apoio sim.” -“De que raça?” -“Você me conhece… mexi­ca­nos.”

Essa é uma gri­tante falha de pro­jeto da Micro­soft, que evi­den­te­mente não ante­ci­pou tal pos­si­bi­li­dade, o que levanta ques­tões sobre como a empresa não con­se­guiu pre­ver esse cená­rio. É claro que as pes­soas ado­ram “ten­tar que­brar seu brin­quedo novo”, espe­ci­al­mente se o “pro­pó­sito” do brin­quedo é mos­trar um lado melhor da huma­ni­dade.

Tay foi um expe­ri­mento social que deu errado devido à sua pro­gra­ma­ção. Mas isso não conta com um “ponto nega­tivo” con­tra a con­cep­ção de inte­li­gên­cia arti­fi­cial. Nenhuma das áreas em que se pre­tende uti­li­zar a inte­li­gên­cia arti­fi­cial usa a meto­do­lo­gia de Tay.

Con­si­dere, por exem­plo, dro­nes e car­ros que são con­du­zi­dos auto­ma­ti­ca­mente. Mui­tas I.A. são pro­je­ta­das para usos muito espe­cí­fi­cos, para ope­rar sob pro­to­co­los de segu­rança rigo­ro­sos e enfren­tar uma enorme quan­ti­dade de pres­são cul­tu­ral e legal para garan­tir a segu­rança como abso­luta pri­o­ri­dade. A par­tir de mudan­ças gra­du­ais, os enge­nhei­ros estão per­mi­tindo que estas máqui­nas façam suas pró­prias esco­lhas, den­tro de um con­junto muito espe­cí­fico de con­di­ções — “Existe um pedes­tre lá ou não?” - e é um con­junto limi­tado de opções.

Por outro lado, Tay foi essen­ci­al­mente pro­gra­mada para apren­der sobre o mundo com um inte­lecto mal for­mado. O seu obje­tivo era ser for­mado e mol­dado por seu ambi­ente. Você já pode come­çar a ver como a I.A. de Tay é dife­rente daque­las de dro­nes que voa­rão pelas cida­des entre­gando nos­sas com­pras.

Em uma entre­vista recente, Megan Smith, Chefe do Gabi­nete de Tec­no­lo­gia dos EUA, apre­sen­tou algo cha­mado o “Clu­e­train Mani­festo”, uma série de prin­cí­pios sobre a Inter­net. Uma das ideias mais recen­tes asso­ci­a­das a seus auto­res é: A Inter­net é nós.

Nos­sas cri­a­ções são o reflexo de quem somos. As pes­soas então pro­je­tam o assé­dio, o bullying, e tudo mais para o mundo digi­tal”, Smith disse.

Tay parece ser a prova per­feita dessa ideia.


Você pode que­rer ler tam­bém:

A Revo­lu­ção da Inte­li­gên­cia Arti­fi­cial
Pode uma máquina sen­tir?

 

Rodrigo Zottis
Rapaz que só faz o que faz pois espera que um dia seu legado possa ser completamente auto-explicativo.

Compartilhe