Robô feminino tocando o rosto de uma máscara tal como a sua. Imagem atribuída como capa de para o artigo "Devemos buscar a extinção humana?", pelo filósofo venezuelano Gabriel Andrade.

Devemos buscar a extinção humana?

Em Consciência, Filosofia por Gabriel AndradeComentários

As famo­sas três leis da robó­tica de Isaac Asi­mov, dizem o seguinte:

  1. Um robô não deve ferir um ser humano ou, por inér­cia, per­mi­tir que um ser humano sofra algum mal;
  2. Um robô deve obe­de­cer às ordens dadas por huma­nos, exceto quando essas ordens entra­rem em con­flito com a pri­meira lei;
  3. Um robô deve pro­te­ger sua pró­pria exis­tên­cia, desde que tal pro­te­ção não entre em con­flito com a pri­meira ou a segunda lei.

Embora essas leis pare­çam muito pró­xi­mas do senso comum, e indi­quem o devido cui­dado no desen­vol­vi­mento da robó­tica e inte­li­gên­cia arti­fi­cial, mui­tos comen­ta­ris­tas têm visto pro­ble­mas nelas.

Os filó­so­fos Nick Bos­trom e John Les­lie, por exem­plo, têm aler­tado que, na exe­cu­ção des­ses algo­rit­mos, as máqui­nas podem inter­pre­tar que, para evi­tar o sofri­mento humano, é neces­sá­rio recor­rer à este­ri­li­za­ção em massa e, por­tanto, garan­tir que a espé­cie humana não se repro­duza e se extin­guia em paz: assim, o robô cum­pri­ria seu dever de não per­mi­tir o sofri­mento humano por inér­cia.

Claro, não ter filhos pode ser uma dor para uma gera­ção de esté­reis, mas os robôs podem inter­pre­tar que nos pou­pa­riam muito mais do sofri­mento fazendo nossa espé­cie desa­pa­re­cer, e assim, ante o dilema, opta­rem por extin­guir a raça humana. Afi­nal, no âmbito des­tas ações, não have­ria mais pes­soas sujei­tas ao sofri­mento, e assim o pro­blema esta­ria resol­vido.

Isso parece mons­tru­oso, é claro. Mas o fato de que os robôs, em estrita con­for­mi­dade com um algo­ritmo apa­ren­te­mente raci­o­nal, pos­sam che­gar a essa con­clu­são, nos per­mite cogi­tar se a extin­ção pací­fica da espé­cie humana não seria uma opção filo­so­fi­ca­mente acei­tá­vel.

Na ver­dade, assim tem sido pro­posto pelos cha­ma­dos filó­so­fos “uti­li­ta­ris­tas nega­ti­vos”.

O uti­li­ta­rismo é uma vari­ante da dou­trina que iden­ti­fica o bem com o útil. Tra­di­ci­o­nal­mente, se pensa que o impe­ra­tivo uti­li­ta­rista é a maxi­mi­za­ção do pra­zer: criar a maior quan­ti­dade de bem para o maior número de pes­soas pos­sí­veis, tal como dizia a famosa frase de Bentham.

Porém, logo os pro­ble­mas sur­gem. Se que­re­mos maxi­mi­zar o bem, então apa­ren­te­mente não seria ruim mul­ti­pli­car a popu­la­ção humana, sem impor­tar que se con­siga um nível de bem-estar ape­nas tole­rá­vel. Gerando tri­lhões de seres huma­nos que ape­nas sen­tem algum pra­zer, você teria cri­ado o maior bem para o maior número de pes­soas pos­sí­veis.

Mas isso, como disse o filó­sofo Derek Par­fit, é uma “con­clu­são repug­nante”. Sabe­mos muito bem que um país com uma popu­la­ção pequena, mas com bom padrão de vida (como Luxem­burgo), é pre­fe­rí­vel a um país com uma grande popu­la­ção, mas com con­di­ções deplo­rá­veis (tais como Ban­gla­desh).

Isso levou alguns uti­li­ta­ris­tas a argu­men­tar que a dire­triz não deve ser a maxi­mi­za­ção do pra­zer, mas a mini­mi­za­ção da dor. Mas, pre­ci­sa­mente para mini­mi­zar a dor, a estra­té­gia mais fácil é sim­ples­mente fazer as pes­soas desa­pa­re­cem.

Isso não implica uma morte vio­lenta na forma de geno­cí­dio, por­que essa forma de extin­ção gera­ria uma grande quan­ti­dade de dor. Implica, na ver­dade, a morte pací­fica da gera­ção atual, asse­gu­rando que não have­ria uma gera­ção subs­ti­tuta.

Para esses filó­so­fos, o uso de méto­dos con­tra­cep­ti­vos é uma obri­ga­ção moral, pois com isso se pre­vine que novas pes­soas venham ao mundo para sofrer, e, assim, mini­miza-se efi­caz­mente a dor.

David Bena­tar é o filó­sofo que mais defende essa posi­ção. Em sua opi­nião, nenhum dano é feito quando à con­cep­ção de uma cri­ança é impe­dida (nin­guém sofre por não ter nas­cido), mas, ao con­trá­rio, impede-se um monte de danos.

Em certo sen­tido, o argu­mento de Bena­tar é seme­lhante ao argu­mento de Epi­curo, segundo o qual não deve­mos temer a morte, pois sim­ples­mente, quando esta­mos mor­tos, não somos mais nós, e não há mais nada para sofrer. Se não exis­ti­mos, não há pro­blema.

Eu li exor­ta­ções para a extin­ção da espé­cie humana por filó­so­fos como Arthur Scho­pe­nhauer, e elas sem­pre me pare­cem extra­va­gan­tes, típi­cas de um tipo de filo­so­fia alemã bom­bás­tica, mas não sufi­ci­en­te­mente ana­lí­ti­cas. Mas os escri­tos de Bena­tar são uma outra ques­tão, pois têm aná­li­ses éti­cas muito pre­ci­sas, e chega a uma con­clu­são que parece repug­nante, mas que, no entanto, é difí­cil de refu­tar.

Além disso, o fato de que os robôs, que seguem ao pé da letra as dire­tri­zes éti­cas com que foram pro­gra­ma­dos, pode­riam aca­bar inter­pre­tando o fim da nossa espé­cie como neces­sá­ria, parece dar suporte à reco­men­da­ção de Bena­tar.

Por agora, eu acho que a melhor res­posta para a tese de Bena­tar é sim­ples­mente rejei­tar o uti­li­ta­rismo nega­tivo. Mas se seguir­mos o uti­li­ta­rismo (e, em qual­quer caso, é duvi­doso que deva­mos, pois o uti­li­ta­rismo tem mui­tos pro­ble­mas), deve­mos seguir uma dire­triz com­bi­nada: maxi­mi­zar o pra­zer e mini­mi­zar a dor.

Um mundo sem pra­zer e sem dor não seria bom, por­que o pra­zer não seria exal­tado. Um mundo com grande pra­zer e mais dor não seria acei­tá­vel, por­que se pare­ce­ria a um mundo seme­lhante ao que Par­fit des­creve em sua “con­clu­são repug­nante”. Eu pro­cu­ra­ria um inter­me­diá­rio: maxi­mi­zar a quan­ti­dade de pes­soas que sen­tem pra­zer, mas sem che­gar a um ponto em que, em média, a vida é muito pró­xima da misé­ria.

É ver­dade que nada pode sofrer por não exis­tir, mas, ao mesmo tempo, não ter a pos­si­bi­li­dade de exis­tir (ou con­ti­nuar a exis­tir) parece ser um tipo de perda. Por­tanto, ao con­trá­rio de Epi­curo, eu diria que a morte em si é uma tra­gé­dia, e deve­mos fazer todo o pos­sí­vel para evitá-la.

Nesse sen­tido, eu sim­pa­tizo com os tran­su­ma­nis­tas bus­cando a imor­ta­li­dade. Tam­bém, ao con­trá­rio de Bena­tar, eu diria que, se meus filhos cer­ta­mente irão sofrer neste mundo, eu espero que eles encon­trem mui­tos momen­tos de pra­zer que, no fim das con­tas, tor­nem vali­osa sua exis­tên­cia.

E, final­mente, eu reco­men­da­ria uma modi­fi­ca­ção nas leis de Asi­mov (pois elas pare­cem ser estri­ta­mente uti­li­ta­ris­tas nega­ti­vas): não só os robôs devem evi­tar o sofri­mento humano, mas tam­bém devem maxi­mi­zar os seus esfor­ços para gerar pra­zer aos seres huma­nos.

Não obs­tante, com isso, tam­bém apa­re­ce­riam outros pro­ble­mas, pois como enfa­tiza assus­ta­do­ra­mente Nick Bos­trom, existe uma pos­si­bi­li­dade de que os robôs inter­pre­tem que a melhor forma de maxi­mi­zar os nos­sos pra­ze­res é nos colo­cando num mundo simu­lado (ao estilo de Matrix) no qual nunca há dor. Mas este pro­blema já é outra ques­tão.


Seja patrono do AZ para mais arti­gos como este.
CLIQUE AQUI e esco­lha sua recom­pensa.


[optin­form]


Você pode que­rer ler tam­bém:

A Revo­lu­ção da Inte­li­gên­cia Arti­fi­cial
Morte, o segredo desta vida

Gabriel Andrade
Gabriel Andrade vive em Maracaibo, Venezuela. Ele leva a vida na Universidade de Zulia, e é anfitrião do programa "Ágora" na Rádio Luz 102,9 FM.

Compartilhe