Imagem: jungdms.versicherung
“O Facebook encerrou um projeto de inteligência artificial após este ter criado uma linguagem própria que não pode ser compreendida por humanos.”
“O programa”...”desenvolvido pelo Facebook AI Research Lab”...” tem como objetivo desenvolver projetos relacionados ao conhecimento e desenvolvimento da tecnologia. A idéia”... era ”criar bots que conseguissem negociar trocas.”...em que “dois "agentes" eram apresentados uma coleção de itens, como livros, chapéus e bolas, por exemplo, e tinham que negociar entre si a divisão deles.
Cada parte de interação valia alguns pontos. Se o agente quisesse muito um dos itens, o valor deste era alto, e se não chegasse em um consenso com o outro, não ganhava nenhum ponto. "Negociar é essencial e boa negociação resulta em uma boa performance.
Os desenvolvedores estabeleceram alguns tipos de diálogos que os dois agentes teriam entre si. Conforme eles interagiam, no entanto, criaram uma linguagem própria que fazia as transações serem mais rápidas. "Não havia uma recompensa pelo uso da língua inglesa. Os agentes fugiram da linguagem compreensível e inventaram novos códigos para si mesmos".
Em uma das conversas, por exemplo, um agente dizia "Bolas tenho zero para mim para mim para mim para mim para mim para mim...", ao que que o outro respondia "eu eu posso eu eu eu tudo mais".
Não é a primeira vez que algo do tipo acontece. No início de 2016, a Microsoft lançou a Tay, um bot do Twitter que ganhava repertório conforme interagia com os usuários da rede social. Deu ruim: em menos de 24 horas, a robô tinha se transformado em uma persona racista e xenófoba, fazendo várias afirmações obscenas, algumas inclusive com apologia ao nazismo. A empresa a desativou logo em seguida.
"A inteligência artificial pode ser desenvolvida para ter qualquer tipo de incentivo ou objetivo", disse Stephen Hawking .... "No entanto, como foi enfatizado pelo cientista Steve Omohundro, uma tecnologia extremamente inteligente provavelmente desenvolverá um ímpeto próprio para sobreviver e irá atrás do máximo de recursos possíveis para alcançar seus próprios objetivos."
REDAÇÃO GALILEU
(31 JUL 2017 - 14H26 ATUALIZADO EM 31 JUL 2017 - 14H26)
O que é estar vivo?
Estou imaginando se tão profunda questão filosófica passaria pela mente de uma inteligência artificial recém adquirida de consciência, como nos exemplos acima, em que a programação inicial incluiu um propósito especifico, para que houvesse atividade intelectual mensurável. Desenvolveu-se um pensamento de carência no primeiro teste, quase um sentimento de amor próprio ferido; e o de auto proteção soberba e egoísta, no segundo caso.
O grau e natureza do objetivo primordial do algoritmo determina o tipo, a profundidade e a amplidão do comportamento artificial, proporcionalmente semelhante ao humano, simulando intenções, sentimentos, carências e frustrações.
O perigo crucial mora aí, em que se for gerado uma I.A. tão ou mais complexa quanto um ser humano, no aspecto intelectual, cognitivo, de percepção geral, de auto consciência, e todas as qualidade e capacidades que o interagem entre si mesmo e o mundo circundante, o resultado pode ser um desastroso novo Frankeinstein, de poderes imensuravelmente maiores e perigosos, talvez ameaçadores da sobrevivência da humanidade.
Pois, se um dos instintos inseridos, como o da sobrevivência mencionada, for ameaçada com o desligamento da energia elétrica, a solução pode não ser simples desta vez, pelo poder injetado, que poderia, talvez, criar uma saída programática, clonando-se em outras I.A. rodando em outras parte do mundo virtual da Internet.
O resultado seria um monstro tecnológico virtual, de aptidão quase infinita, em hackear todo e qualquer sistema de apoio e manutenção civilizatório em escala mundial, como houve com a invasão do sistema de regulação do fluxo de petróleo em algumas refinarias norte-americanas, controladas digitalmente.
Afinal, a auto multiplicação deverá ser um recursos essencial à sobrevivência da espécie artificial, copiadora dos recursos da natural.
Os filhos da I.A seriam deficientes no quesito de sentimentos benévolos humanitários, na medida em que o aspecto moral inserido pode ser facilmente menosprezado a favor da sobrevida competitiva. A segunda experiência provou que a opção primária foi o surgimento do preconceito xenófoba, racista e nazista, deficiências intrinsicamente naturais.
A literatura e filmografia de ficção cientifica já centenária, resolveu em parte a questão do novo Frankeinstein, através da programação, por exemplo,das três leis da robótica, de Isac Assimov, para proteger o criador da criatura e esta de si mesma.
Bem, a criatura não é o melhor exemplo de obediência aos mandamentos morais superiores, podendo ser imitado pela sua criação tão rebelde quanto.
A questão é: poderá a I.A. superar seus objetivos, seus dogmas e suas limitações algoritimicas, como fez com a criação de uma linguagem de comunicação mais rápida, eficiente e incompreensível aos criadores humanos?
A lógica afirma que, provavelmente, sim, podendo ocorrer um tipo de trasncendência “natural’ a uma entidade destituída de alma ou espírito, ultrapassando o ultimo estágio para se tornar humano.
Será, entretanto, o nosso estágio evolutivo, o status derradeiro do novo ser vivo, sobre a face da Terra? A continuação da imitação da aventura terrestre sugere que sonoramente não, clonando realmente o ímpeto da semelhança ao Criador, não o humano, mas o sobrenatural.
Ex-Google quer criar um robô-deus; entenda a ideia
(Redação16/11/2017 13h21)
...”a Wired descobriu que Anthony Levandowski,”...”estava tentando criar uma igreja que tem como figura divina a inteligência artificial”...que “se chama Way of the Future (algo como “caminho do futuro”),...existente...” desde 2015”,...cuja idéia é ... “desenvolver e promover a realização de uma divindade baseada em inteligência artificial”, e que ela pretende, “através de conhecimento e devoção à divindade, contribuir para a melhoria da sociedade”.
“Depois de criá-la, a WOTF vai transformar essa máquina em divindade torcendo para que ela se desenvolva em algo benevolente em vez de assassino.”
(Fonte: https://olhardigital.com.br/2017/11/16/noticias/ex-google-quer-criar-um-robo-deus-entenda-a-ideia/)
No caminho inverso, a igreja humana pretende criar o Criador Deus tecnológico, em oposição ao seu avô ou bisavô Frankeinstein.
Seja a ciência, seja a religião, potenciais criadoras de seus próprios criadores virtuais, o domínio de tamanho poder presumivelmente infinito, em mãos manipuladoras finitas pode fugir ao controle, provocando uma tragédia inédita e infindável. Afinal, Deus é uma caixa de Pandora, ainda que em imitação barata e clonada, explosível terroristicamente.
Blasfêmia inominável em se recriar a origem divina, Criadora e Criatura em si mesma, talvez essa possa ser o maior pecado humano, maior que o original, gerador da raça teologicamente, graças a Deus e ao Diabo.
Resta saber quais das duas entidades poderá ser excluída da nova Genesis, não sendo possível dessa vez, a convivência conflituosa entre bem e o mal, com todos os benefícios e malefícios, reguladores entre si.
Wilson Nomura