Humanidade no conseguir controlar computadores superinteligentes

0
82

Informtica

Com informações do MPIB – 12/01/2021

Inteligncia que supera os criadores

Suponha que algum programe um sistema de inteligncia artificial (IA) com uma inteligncia superior dos humanos, para que ele possa aprender de forma independente.

Conectada internet, a IA poderia ter acesso a todos os dados da humanidade e ento tentaria otimizar tudo; ela poderia substituir todos os programas existentes e assumir o controle de todas as mquinas online em todo o mundo, para que tudo funcionasse da forma mais eficiente possvel.

Isso produziria uma utopia ou uma distopia? A IA encontraria a cura para o cncer, promoveria a paz mundial e evitaria um desastre climtico? Ou ela iria concluir que a forma mais eficiente de resolver todos os problemas seria destruir a humanidade?

Nosso mundo fascinado por mquinas e computadores que podem controlar carros, compor sinfonias ou derrotar pessoas no xadrez, Go e outros desafios, mas os cientistas da computao e os filsofos tm-se perguntado se sequer seramos capazes de controlar uma IA superinteligente, para garantir que ela no representaria uma ameaa humanidade.

“Uma mquina [computador] superinteligente que controla o mundo parece fico cientfica. Mas j existem mquinas que realizam certas tarefas importantes de forma independente, sem que os programadores entendam totalmente como elas aprenderam a fazer o que fazem. Portanto, surge a questo de saber se isso poderia em algum momento se tornar incontrolvel e perigoso para humanidade,” justifica o professor Manuel Cebrian, do Instituto Max Planck para o Desenvolvimento Humano, na Alemanha.

E as concluses dos estudiosos nem sempre so animadoras: A equipe internacional liderada por Cebrian fez os melhores clculos tericos que o saber cientfico atual permite para demonstrar que seria fundamentalmente impossvel para a humanidade controlar uma IA superinteligente.

Superinteligncia artificial

Os cientistas exploraram duas ideias diferentes de como uma superinteligncia artificial poderia ser controlada.

Por um lado, as capacidades da IA superinteligente poderiam ser especificamente limitadas, por exemplo, isolando-a da internet e de todos os outros dispositivos tcnicos, para que ela no pudesse ter contato com o mundo exterior. Mas isso tornaria a “IA superinteligente” significativamente menos poderosa, menos capaz de responder s misses e s questes para as quais a humanidade a projetou.

Sem essa opo, a IA poderia ser motivada desde o incio a perseguir somente objetivos que atendam aos melhores interesses da humanidade, por exemplo, programando princpios ticos nela. No entanto, os pesquisadores tambm demonstraram que essas e outras ideias contemporneas e histricas para controlar a IA superinteligente tm seus limites.

Humanidade n

Problema incomputvel

A equipe ento concebeu um algoritmo terico de conteno, que garante que uma IA superinteligente no possa prejudicar as pessoas em nenhuma circunstncia, simulando o comportamento da IA primeiro e ento interrompendo-a se ela for considerada prejudicial.

Mas uma anlise cuidadosa mostra que, em nosso paradigma atual de computao, esse algoritmo no pode ser construdo.

“Se voc dividir o problema em regras bsicas da cincia da computao terica, ver que um algoritmo que comandaria uma IA para no destruir o mundo poderia inadvertidamente interromper suas prprias operaes. Se isso acontecesse, voc no saberia se o algoritmo de conteno ainda est analisando a ameaa, ou se ele parou para conter a IA prejudicial. Na verdade, isso torna o algoritmo de conteno inutilizvel,” disse Iyad Rahwan, membro da equipe.

Com base nesses clculos, o problema de conteno incomputvel, ou seja, nenhum algoritmo nico pode encontrar uma soluo para determinar se uma IA produziria danos ao mundo.

Alm disso, os pesquisadores demonstraram que podemos nem saber quando as mquinas superinteligentes foram criadas, porque decidir se uma mquina apresenta inteligncia superior aos humanos est no mesmo reino do problema de conteno: insolvel.

Bibliografia:

Artigo: Superintelligence Cannot be Contained: Lessons from Computability TheoryAutores: Manuel Alfonseca, Manuel Cebrian, Antonio Fernandez Anta, Lorenzo Coviello, Andrs Abeliuk, Iyad RahwanRevista: JAIR – Journal of Artificial Intelligence ResearchDOI: 10.1613/jair.1.12202

Seguir Site Inovação Tecnológica no Google Notícias

Outras notcias sobre:

Mais tópicos