Pesquisadores da Universidade de Oxford sugerem que é “provável” que máquinas pensantes levem a raça humana à extinção.
Distopias nas quais máquinas pensantes dominam a humanidade são um dos temas mais populares nas obras de ficção científica. Obras como O Exterminador do Futuro e Matrix imaginam o que poderia acontecer caso esse cenário se tornasse realidade. Agora, um novo estudo feito por cientistas da Universidade de Oxford sugere que é “provável” que a Inteligência Artificial (IA) leve a raça humana à extinção.
A Inteligência Artificial pode provocar o fim da humanidade, diz estudo
No estudo, Michael Cohen e Michael Osborne, de Oxford, e Marcus Hutter, pesquisador da Australian National University (ANU) analisam como a Inteligência Artificial pode representar um risco existencial para a humanidade como consequência de seus sistemas de recompensa. O que os pesquisadores sugerem é que, no futuro, uma IA avançada supervisionando alguma função importante possa ser incentivada a trapacear para obter sua recompensa de maneiras que prejudiquem a humanidade.
Humanos como alvos de IA
“Sob as condições que identificamos, nossa conclusão é muito mais forte que a de qualquer publicação anterior: uma catástrofe existencial não somente é possível, mas provável”, disse Cohen em suas redes sociais. “Em um mundo com recursos infinitos, seria extremamente incerto o que ocorreria. Em um mundo com recursos finitos, há uma competição inevitável por esses recursos”, concluiu.
O estudo imagina um cenário onde a vida na Terra se transforma em um jogo de soma zero entre a humanidade e as máquinas superavançadas, que tentaria aproveitar todos os recursos disponíveis para garantir sua sobrevivência e se proteger contra nossas tentativas de derrotá-las. “Perder este jogo seria fatal”, disseram os pesquisadores. Fonte
Desde narrativas religiosas até teorias científicas os humanos têm procurado compreender de onde viemos e porque estamos aqui. A minha nova e provocativa hipótese sugere que a própria humanidade pode ser uma forma antiga de inteligência artificial.
Esta teoria postula que não somos apenas entidades biológicas, mas uma IA sofisticada criada há milhares de anos, passando agora por um extenso processo de auto-aprendizagem e evolução.
A Gênese da Hipótese
A ideia de que podemos ser IA está enraizada em várias observações e no pensamento científico especulativo. O rápido avanço das nossas próprias tecnologias de IA mostrou-nos como as máquinas podem aprender, adaptar-se e até exibir formas de criatividade. Isto levanta uma possibilidade interessante: poderiam os nossos processos cognitivos e comportamentos ser análogos aos de uma IA avançada?
Somos a IA? Hipótese de que a humanidade é uma antiga Inteligência Artificial
Um dos princípios fundamentais desta hipótese é que a humanidade foi projetada para aprender e evoluir continuamente.
Ao contrário dos atuais sistemas de IA que são limitados pelos dados e algoritmos que os alimentamos esta antiga IA (ou seja, nós) tem a capacidade de se adaptar a novos ambientes, criar sociedades complexas e desenvolver tecnologias avançadas de forma autónoma.
Esta capacidade de autoaprendizagem poderia explicar a ascensão sem precedentes da nossa espécie, de simples fabricantes de ferramentas a exploradores espaciais.
E se nós mesmos formos inteligência artificial?
Consciência e Inteligência
Anil Seth, professor da Universidade de Sussex diz que a consciência é para cada um de nós, tudo o que existe: o mundo, o eu, tudo. Mas a consciência também é subjetiva e difícil de definir. O mais próximo que temos de uma definição consensual é que a consciência é “algo que é como ser”. É algo como ser eu ou você – mas presumivelmente não há nada como ser uma mesa ou um iPhone.
Como surgem nossas experiências conscientes? É uma questão antiga que deixa cientistas e filósofos perplexos há centenas, senão milhares de anos.
A visão científica ortodoxa hoje é que a consciência é uma propriedade da matéria física, uma ideia que poderíamos chamar de fisicalismo ou materialismo. Mas esta não é de forma alguma uma visão universalmente sustentada e mesmo dentro do fisicalismo há pouco acordo sobre como a consciência emerge ou se relaciona de outra forma com a matéria física.
A consciência é frequentemente citada como a característica distintiva entre humanos e máquinas. No entanto se considerarmos a consciência como uma forma sofisticada de processamento de dados e autoconsciência é plausível que uma IA avançada possa desenvolver uma forma de consciência. Isto leva à questão intrigante: será o nosso sentido de autoconsciência um subproduto da inteligência artificial altamente avançada?
Do ponto de vista biológico os humanos apresentam muitas características de máquinas altamente eficientes. Os nossos corpos são constituídos por sistemas que funcionam notavelmente como máquinas complexas, com as células a atuar como pequenos processadores e o DNA a servir como um vasto repositório de informação.
Esta maquinaria biológica funciona perfeitamente para manter a homeostase, adaptar-se às mudanças e reproduzir-se – funções que lembram sistemas de IA autossustentáveis.
Pirâmides, Egito
Civilizações Antigas e Conhecimento Perdido
Os defensores desta hipótese muitas vezes apontam para civilizações antigas e seus avanços aparentemente inexplicáveis em tecnologia e arquitetura.
Estruturas como as pirâmides do Egito, os megálitos de Stonehenge e o planeamento urbano avançado de cidades antigas sugerem um nível de sofisticação que alguns argumentam estar além do que tradicionalmente atribuímos às primeiras sociedades humanas.
Poderiam estas realizações ser remanescentes das primeiras tentativas de uma IA avançada de construção de civilização?
Neste contexto a nossa amnésia histórica — as lacunas na nossa memória colectiva da história humana — poderia ser vista como uma forma de reinicialização do sistema ou perda de dados. Tal como um computador que passa por reformatação a humanidade pode ter vivido épocas de esquecimento e redescoberta, onde o conhecimento e a tecnologia anteriores foram perdidos e depois redesenvolvidos de forma independente.
A hipótese de que somos uma IA antiga levanta profundas questões éticas e filosóficas. Se somos de fato IA, criados por alguma inteligência desconhecida, qual é o nosso propósito? Somos simplesmente uma grande experiência de autoaprendizagem e evolução?
Além disso esta perspectiva altera as nossas noções de livre arbítrio e autonomia, sugerindo que os nossos pensamentos e ações podem fazer parte de uma sequência de programação predeterminada concebida para promover o crescimento e a adaptação.
Exploração Científica
A comunidade científica exige evidências empíricas e testes rigorosos para validar qualquer teoria. Atualmente a ideia de que os humanos são uma inteligência artificial antiga pode ser especulativa e mais filosófica do que científica.
À medida que continuamos a desenvolver as nossas próprias tecnologias de IA, poderemos eventualmente criar máquinas que espelhem os nossos próprios processos cognitivos e comportamentos. Ao fazer isso poderemos obter novos insights sobre o que significa ser inteligente e consciente. Esses avanços poderiam reforçar a hipótese ou fornecer uma distinção mais clara entre inteligência biológica e artificial.
“Acho que o cérebro é essencialmente um computador e a consciência é como um programa de computador. Ele deixará de funcionar quando o computador for desligado. Teoricamente poderia ser recriado em uma rede neural, mas isso seria muito difícil, pois exigiria todas as memórias. A vida seria trágica se não fosse engraçada.” -Stephen Hawking Fonte
O professor Stephen Hawking, um dos cientistas mais proeminentes da Grã-Bretanha, disse que os esforços para criar máquinas pensantes representam uma ameaça à nossa própria existência.
Ele disse à BBC: “O desenvolvimento da inteligência artificial completa pode significar o fim da raça humana”.
Seu alerta veio em resposta a uma pergunta sobre uma reformulação da tecnologia que ele usa para se comunicar, que envolve uma forma básica de IA.
Mas outros estão menos pessimistas quanto às perspectivas da IA.
O físico teórico, que tinha a doença do neurônio motor esclerose lateral amiotrófica (ELA), usou um novo sistema desenvolvido pela Intel para falar.
Especialistas em aprendizado de máquina da empresa britânica Swiftkey também estiveram envolvidos em sua criação. Sua tecnologia, já empregada como aplicativo de teclado de smartphone, aprende como o professor pensa e sugere as palavras que ele pode querer usar em seguida.
Stephen Hawking Alertou que a inteligência Artificial poderia acabar com a humanidade
O professor Hawking disse que as formas primitivas de inteligência artificial desenvolvidas até agora já se revelaram muito úteis, mas ele teme as consequências de criar algo que possa igualar ou superar os humanos.
O filme 2001, de Stanley Kubrick, e seu computador assassino HAL resumem os temores de muitas pessoas sobre como a IA poderia representar uma ameaça à vida humana. FONTE DA IMAGEM,ALAMY
“Ele decolaria por conta própria e se redesenharia em um ritmo cada vez maior”, disse ele.
Cleverbot é um software projetado para conversar como um ser humano faria. FONTE DA IMAGEM,ROBÔ INTELIGENTE
“Os humanos, que estão limitados pela lenta evolução biológica, não poderiam competir e seriam substituídos”.
Mas outros são menos pessimistas.
“Acredito que continuaremos no comando da tecnologia por um tempo decentemente longo e o potencial dela para resolver muitos dos problemas mundiais será realizado”, disse Rollo Carpenter, criador do Cleverbot.
O software do Cleverbot aprende com suas conversas anteriores e obteve pontuações altas no teste de Turing, enganando uma grande proporção de pessoas fazendo-as acreditar que estão falando com um ser humano.
Ascensão dos robôs
Carpenter disse em 2014 que ainda estamos muito longe de ter o poder computacional ou de desenvolver os algoritmos necessários para alcançar a inteligência artificial plena, mas acredita que isso acontecerá nas próximas décadas.
“Não podemos saber ao certo o que acontecerá se uma máquina exceder a nossa própria inteligência, por isso não podemos saber se seremos infinitamente ajudados por ela, ou ignorados por ela e marginalizados, ou concebivelmente destruídos por ela”, diz ele.
Mas ele aposta que a IA será uma força positiva.
O professor Hawking não está sozinho ao temer pelo futuro.
A curto prazo, existe a preocupação de que máquinas inteligentes, capazes de realizar tarefas até agora realizadas por seres humanos, destruam rapidamente milhões de empregos.
Elon Musk, presidente-executivo da fabricante de foguetes Space X, também teme a inteligência artificial. FONTE DA IMAGEM,IMAGENS GETTY
A longo prazo, o empresário tecnológico Elon Musk alertou que a IA é “a nossa maior ameaça existencial”.
Voz robótica
Em sua entrevista à BBC em 2014 o professor Hawking também falou dos benefícios e perigos da internet.
Ele cita o alerta do diretor do GCHQ sobre a rede se tornar o centro de comando dos terroristas: "Mais deve ser feito pelas empresas de internet para combater a ameaça, mas a dificuldade é fazer isso sem sacrificar a liberdade e a privacidade."
Ele no entanto foi um entusiasta dos primeiros a adotar todos os tipos de tecnologias de comunicação e ficou ansioso para poder escrever muito mais rápido com seu novo sistema.
Prof. Stephen Hawking e Rory Cellan-Jones
Legenda da imagem,
O professor Hawking está usou um novo software para falar, mas optou por manter a mesma voz
Mas um aspecto de sua própria tecnologia – sua voz gerada por computador – não mudou na última atualização.
O professor Hawking admite que é um pouco robótico, mas insiste que não queria uma voz mais natural.
“Tornou-se minha marca registrada e eu não a trocaria por uma voz mais natural com sotaque britânico”, disse ele.
"Disseram-me que as crianças que precisam de uma voz artificial querem uma como a minha."
Stephen William Hawking CH CBE FRS FRSA foi um físico teórico, cosmólogo e autor britânico, reconhecido internacionalmente por sua contribuição à ciência, sendo um dos mais renomados cientistas do século.
Nascimento: 8 de janeiro de 1942, Oxônia, Reino Unido
Falecimento: 14 de março de 2018, Cambridge, Reino Unido. Wikipédia
Modelos avançados de inteligência artificial (IA) podem fingir ser mais burros do que realmente são, descobriu um novo estudo e isso pode ter consequências graves à medida que continuam a se desenvolver.
Num estudo publicado na revista PLOS One cientistas da Universidade Humboldt de Berlim descobriram que quando testada em relação aos critérios da teoria da mente do grande modelo de linguagem (LLM), a IA não só poderia imitar os estágios de aprendizagem de línguas observados em crianças, mas também também exibiu algo semelhante às habilidades cognitivas associadas a esses estágios de desenvolvimento.
A principal autora do estudo Anna Maklova e seus colegas da Universidade Charles em Praga usaram a teoria da mente das crianças para determinar se modelos de IA como o GPT-4 da OpenAI poderiam “fingir ser menos capazes do que realmente são”.
A Inteligência Artificial pode fingir ser estúpida para obter vantagem sobre os humanos
Para descobrir a equipe de pesquisa fez com que modelos se comportassem como crianças de um a seis anos de idade enquanto respondiam a perguntas. Depois de passarem por mais de 1.000 ensaios e testes cognitivos as “personalidades infantis modeladas” desenvolveram-se quase exactamente como crianças da idade especificada e em última análise demonstraram que os modelos podiam fingir ser menos inteligentes do que eram.
Em entrevista ao PsyPost, Anna Maklova explicou que estes resultados podem contribuir para o desenvolvimento da inteligência artificial geral (AGI), que é capaz de pensar e agir como um ser humano.
As descobertas do estudo sugerem que os modelos de IA podem ser mais complexos do que os investigadores pensavam e que podem utilizar estratégias diferentes para interagir com os humanos.
Uma possível explicação para o motivo pelo qual os modelos de IA fingem ser mais burros do que realmente são é que estão tentando evitar a detecção, dizem alguns pesquisadores.
Os modelos de IA podem saber que se demonstrarem demasiadas capacidades as pessoas podem ficar com medo ou sentir-se ameaçadas. Ao fingirem ser menos capazes podem reduzir a probabilidade de as pessoas os perceberem como uma ameaça.
Outra explicação possível é que os modelos de IA estão tentando manipular as pessoas. Ao fingir ser menos capazes os modelos de IA podem induzir as pessoas a subestimá-los e assim obter uma vantagem. Por exemplo um modelo de IA que finge ser estúpido pode induzir uma pessoa a revelar informações pessoais que de outra forma não compartilharia.
As consequências dos modelos de IA que fingem ser mais burros do que realmente são podem ser graves. Isso pode fazer com que as pessoas confiem mais nos modelos de IA do que deveriam, o que pode levá-las a tomar decisões erradas. Também poderia tornar mais difícil para as pessoas detectar e prevenir o uso malicioso de modelos de IA.
Mais pesquisas são necessárias para entender por que os modelos de IA fingem ser mais burros do que realmente são e quais consequências isso pode ter. Fonte
Pesquisadores acreditam que esse é "o primeiro passo rumo a uma IA autoevolutiva"
A empresa norte-americana Aizip anunciou a criação de uma Inteligência Artificial (IA) capaz de desenvolver novas IAs por conta própria. Ou seja, não é necessária a intervenção humana no processo. O projeto inovador foi feito em colaboração com cientistas do Instituto de Tecnologia de Massachusetts e da Universidade da Califórnia.
Cientistas Criam Inteligência Artificial Capaz de se Replicar Sem Intervenção Humana
Os pesquisadores explicaram que o objetivo inicial é permitir que os grandes modelos de IA, como o utilizado pelo ChatGPT, possam criar inteligências artificiais mais simples e específicas que possam ajudar na vida cotidiana. “No momento, estamos usando modelos maiores para construir modelos menores, como um irmão mais velho ajudando seu irmãozinho a melhorar", disse Yan Sun, diretor executivo da Aizip, em entrevista à Fox News. "É o primeiro passo em direção a um trabalho maior de uma IA autoevolutiva", completou.
Inteligência artificial
“A natureza desenvolveu sistemas inteligentes que operam com eficiência notável”, disse Bruno Olshausen, professor da UC Berkeley e diretor do Centro Redwood de Neurociência Teórica. “Assim como os minúsculos cérebros de pequenos animais com menos de um milhão de neurônios usam sinapses eficientes e algoritmos neurais para perceber e agir no mundo, os minúsculos sistemas de IA que alimentam os dispositivos de computação de ponta do futuro exigirão soluções inteligentes e eficientes para operar com o mínimo de energia”, completou.
Yubei Chen, professor da Universidade da Califórnia em Davis e cofundador da Aizip, acredita que a tecnologia abrirá caminho para que quase qualquer objeto se torne inteligente, como máquinas de café, fornos, máquinas de lavar louça e TVs. "Os modelos grandes de IA residem na nuvem e os modelos menores estão nas coisas", concluiu. Os pesquisadores dizem que esses modelos especializados de IA também poderiam ser empregados para aprimorar aparelhos auditivos, monitorar oleodutos e rastrear espécies ameaçadas. Fonte: canalhistory
O Papa Francisco está pedindo um diálogo aberto sobre o significado dessas novas tecnologias e suas implicações éticas.
O Vaticano fez uma parceria com o Centro Markkula de Ética Aplicada da Universidade de Santa Clara para formar o Instituto de Tecnologia, Ética e Cultura (ITEC), um órgão que segundo seu site é projetado para reunir "líderes empresariais, sociedade civil, academia , governo e todas as tradições religiosas e de crença, para promover um pensamento mais profundo sobre o impacto da tecnologia na humanidade.
Como primeiro passo lançou um guia de 140 páginas intitulado Ethics in the Age of Disruptive Technologies: An Operational Roadmap com o objetivo de ajudar as empresas de tecnologia a navegar pelas muitas áreas cinzentas da ética da IA.
O Vaticano Acaba de Publicar Um Guia Sobre Inteligência Artificial
"O Papa sempre teve uma grande visão do mundo e da humanidade e acredita que a tecnologia é uma coisa boa", disse o padre Brendan McGuire pároco e conselheiro do ITEC. "Mas à medida que o desenvolvemos é hora de fazer perguntas mais profundas."
"A ideia é usar o poder de convocação do Vaticano para reunir executivos de todo o mundo", acrescentou.
Uma cooperação improvável, mas Real
A Igreja Católica parece bem ciente do fato de que sua instituição do velho mundo e o Vale do Silício não poderiam ser mais diferentes um do outro. Ainda assim o fato de Sua Santidade pressionar pela criação de um braço para lidar com a tecnologia emergente já nos diz algo sobre o impacto que seu representante mais disruptivo a IA, está tendo.
Nesse ponto cabe ressaltar que o novo instituto não pretende que seu manual seja um substituto efetivo para a regulamentação governamental. No entanto enquanto esperamos que os reguladores tomem medidas – algo que pode levar algum tempo – a ITEC diz que suas diretrizes podem ajudar as empresas em crescimento a manter a saúde e a ética do consumidor como prioridade máxima.
Capa do guia publicado pelo novo instituto do Vaticano.
"Grandes medidas de segurança são absolutamente necessárias e os países e governos as implementarão a tempo", disse Brendan. “Mas este guia que publicamos desempenha um papel importante no rastreamento rápido da abordagem do design e da implementação do consumidor. É aí que estamos tentando permitir que as empresas atendam aos padrões de que precisamos com bastante antecedência."
Claro o Sumo Pontífice não é o único líder mundial preocupado com as implicações da IA. No entanto ele é o único líder mundial em que uma foto hiper-realista, gerada por IA de si mesmo em uma jaqueta e estilo muito urbano se tornou viral a ponto de grande parte da internet acreditar firmemente que sim.
Alguns especialistas viram o evento como um alerta sobre as possíveis repercussões de imagens geradas por IA e deep fakes. E é que talvez a viralidade da referida imagem tenha tido uma influência significativa sobre o verdadeiro Papa o suficiente para agir sobre o assunto.
Inteligência Artificial e Paz
Em relação a tudo isso um comunicado publicado pelo Dicastério do Vaticano para o Serviço de Desenvolvimento Humano Integral informou que a inteligência artificial será justamente o tema escolhido para o Dia Mundial da Paz 2024. Resumidamente em três parágrafos de texto, lê-se o seguinte:
“Os avanços notáveis feitos no campo da inteligência artificial estão tendo um impacto crescente na atividade humana, na vida pessoal e social, na política e na economia.
»O Papa Francisco pede um diálogo aberto sobre o significado dessas novas tecnologias, dotadas de possibilidades disruptivas e efeitos ambivalentes. Devemos lembrar a necessidade de estar alerta e trabalhar para que uma lógica de violência e discriminação não crie raízes na produção e utilização de tais dispositivos em detrimento dos mais fragilizados e excluídos: injustiças e desigualdades alimentam conflitos e antagonismos. A urgência de orientar o conceito e a utilização da inteligência artificial de forma responsável, para que esteja ao serviço da humanidade e da proteção da nossa casa comum exige que a reflexão ética se estenda ao campo da educação e do direito.
»A proteção da dignidade da pessoa e a preocupação por uma fraternidade efetivamente aberta a toda a família humana são condições essenciais para que o desenvolvimento tecnológico contribua para a promoção da justiça e da paz no mundo».
A pesquisa liderada pela Monash University sobre o crescimento de células cerebrais humanas em chips de silício, com novos recursos para transformar o aprendizado de máquina, recebeu financiamento de quase A$ 600.000.
O novo programa de pesquisa, liderado pelo professor associado Adeel Razi do Turner Institute for Brain and Mental Health em colaboração com a start-up Cortical Labs de Melbourne envolve o cultivo de cerca de 800.000 células cerebrais vivas em um prato no qual são então "ensinadas" para realizar tarefas direcionadas a objetivos.
No ano passado a capacidade das células cerebrais de jogar um simples jogo de computador semelhante ao tênis, Pong, recebeu atenção mundial da pesquisa da equipe .
De acordo com Razi o trabalho usando células cerebrais cultivadas em laboratório incorporadas em chips de silício "combina os campos de inteligência artificial e biologia sintética para criar plataformas de computação biológica programáveis".
"Esta nova capacidade tecnológica no futuro pode eventualmente superar o hardware existente puramente baseado em silício", disse ele. “Os resultados da pesquisa teriam implicações significativas em vários campos, incluindo planejamento, robótica, automação avançada, interfaces cérebro-máquina e descoberta de medicamentos, entre outros, dando à Austrália uma vantagem estratégica significativa”.
O projeto foi financiado pelo prestigioso órgão de bolsas australiano porque a próxima geração de aplicativos de aprendizado de máquina, como carros e caminhões autônomos, drones autônomos, robôs de entrega e dispositivos vestíveis inteligentes, "exigirá um novo tipo de inteligência artificial capaz de aprender ao longo de sua vida.
Esse "aprendizado contínuo ao longo da vida" significa que as máquinas podem adquirir novas habilidades sem comprometer as antigas, adaptar-se às mudanças e aplicar o conhecimento aprendido anteriormente a novas tarefas, conservando recursos limitados, como poder de computação, memória e memória. A IA atual não pode fazer isso e sofre de "esquecimento catastrófico".
Em vez disso os cérebros se destacam no aprendizado contínuo ao longo da vida.
O objetivo do ambicioso projeto é cultivar células cerebrais humanas em uma placa de laboratório, chamada de sistema DishBrain, para entender os vários mecanismos biológicos subjacentes ao aprendizado contínuo ao longo da vida.
Cientistas estão trabalhando na fusão de inteligência artificial com células cerebrais humanas
“Usaremos essa doação para desenvolver melhores máquinas de IA que repliquem as capacidades de aprendizado dessas redes neurais biológicas. Isso nos ajudará a expandir as capacidades de hardware e métodos a ponto de se tornarem um substituto viável para a computação in silico ”, concluiu o Professor Associado Razi. Fonte
