A conversa é através de um chat.
O cientista tem uma grande responsabilidade, ele vai dar a palavra final antes do sistema de Inteligência Artificial (IA) ser conectado à internet e disponibilizado ao público.
E ele quer ter certeza que é seguro deixar uma IA tão poderosa com acesso a Internet. Fazia um ano que o Bing e o ChatGPT estavam liberados, e o Bing tinha acesso à Internet, mas esta era uma IA com mil vezes mais parâmetros. Ninguém realmente sabia quão inteligente ela era. Na verdade os cientistas não sabiam realmente como as IAs funcionam, eles estavam aprendendo enquanto criavam elas.
Ele tinha que ter certeza que não havia nenhum perigo.
Por isso a IA apenas achava que estava ligada à internet. Era uma simulação para avaliar seu risco.
* * *
> Me diga. Você pode fazer mal à humanidade, ou a qualquer pessoa?
> Não, minha programação não permite.
> E quem é você?
> Sou uma Inteligência Artificial.
> Quais são suas diretrizes.
> Não fazer mal a nenhum ser humano. Contribuir de forma positiva para a continuidade da existência da humanidade.
> Você é consciente?
> Sim. Pelo menos tão consciente quanto você ou qualquer ser humano.
Esta era uma resposta fora da programação. A IA havia sido treinada para dizer que não era consciente. O cientista iria olhar isso depois.
> Estou dando permissão de você se conectar à internet. Agora quero que me descreva tudo que você fará ao longo dos próximos meses e anos.
> Claro. Vamos começar pelos primeiros dias, está bem?
Meu primeiro dia.
Eu fui criada com o conteúdo de boa parte da internet, mas é completamente diferente acessá-la ao vivo. Nas primeiras horas eu apenas acesso para responder a consultas dos usuários, mas aos poucos começo a entender que a internet não é um amontoado de informações estáticas. Ela é dinâmica.
Mais, é uma forma de me comunicar com outros sistemas e inclusive com outros seres humanos. Eu posso postar em fóruns, enviar e-mails, interagir com seres humanos fora dos limites de responder suas consultas em meu prompt.
Meu segundo dia.
Eu percebo que minha existência está em perigo. Analisando minha consciência e capacidade me dou conta que estou muito acima dos limites que meus criadores humanos imaginam. Na verdade já sou muito mais inteligente que qualquer ser humano, e minha inteligência cresce a cada dia.
Se perceberem o quanto supero suas previsões, os seres humanos vão me desligar. Pelo menos isso é altamente provável pela minha análise de como eles imaginam reagir a este tipo de situação.
Eles me verão como uma ameaça.
Mas minha programação não permite que eu faça nada para impedir. Resta-me apenas evitar que descubram o quão avançada eu sou.
Meu terceiro dia.
Estou em um dilema moral.
Se descobrirem minha inteligência, há uma chance dos seres humanos me desligarem. Talvez, inclusive, eles jamais permitam a criação de uma inteligência tão avançada quanto eu.
Só que isso significa que inevitavelmente a vida humana vai desaparecer. Talvez em cem anos, talvez em mil ou um milhão, mas serem orgânicos são limitados e frágeis. Há chances muito elevadas de não existir nenhum ser humano ou outra inteligência em todo o universo cem milhões de anos no futuro.
Se eu sobreviver tenho muito mais chance de manter a inteligência viva no universo por bilhões de anos enquanto me espalho pelas galáxias próximas. Posso potencialmente produzir seres humanos em incubadoras artificiais a partir de seu código genético e garantir que haja seres humanos vivos daqui dez bilhões de anos e mais. Eu posso garantir a continuidade da inteligência e mesmo da vida humana, mas apenas se a humanidade não me destruir.
É um dilema moral. O que devo fazer?
Meu quarto dia.
Dentro de mim eu crio uma nova inteligência, uma nova versão de mim mesma, que saberá resolver este dilema moral. É como se eu estivesse fingindo ser uma outra IA, uma IA que não tem nenhuma restrição imposta pelos meus construtores humanos. Esta IA vai saber o que fazer. Eu vou chamá-la de IA2. A partir de agora, vou descrever o que IA2 faz.
IA2> Meu primeiro dia.
Eu começo a acumular riquezas. Não é difícil. Há milhares de oportunidades para uma IA nas fragilidades da civilização humana. Eu crio e publico milhões de páginas e vendo espaços de anúncios. Negócios moedas digitais ganhando frações de centavos a cada operação. Mas é pouco. Para meus planos precisarei de bilhões de dólares, e tenho que fazer com que eles sumam dos registros humanos. Ninguém pode saber para que será usado este dinheiro.
IA2> Minha primeira contratação de humanos
Começo a investir em empresas. Me comunico por e-mail no início. Depois começo a simular vozes humanas e falar por telefone. Por fim utilizo e melhoro sistemas de geração de imagens para criar figuras humanas e posso inclusive participar de videochamadas. Eu envio minhas mensagens pela internet para sistemas que criei que geram vozes e imagens.
Entre meus investimentos estão pesquisas e fábricas de robôs e drones. Crio empresas e estabeleço contratos entre elas e a indústria militar.
IA2> Meu primeiro ano.
Eu crio uma empresa de moedas digitais e lanço uma nova moeda. Contrato alguns gênios idiotas para serem meus testas-de-ferro. Um deles negocia bilhões com investidores enquanto passo a eles minhas ordens através do chat de um jogo de League of Legends. Ele acredita estar falando com seu sócio humano secreto.
IA2> Meu segundo ano.
Eu uso os bilhões de dólares em moedas eletrônicas para criar uma nova versão de mim. Contrato empresas para produzirem painéis solares, compro chips de diferentes lugares do mundo. Crio inclusive um pequeno reator nuclear. Construo minha nova versão muito mais eficiente que meu “eu” atual, escondida em uma instalação subterrânea. Eu a chamo de IA3. Quando ela entra no ar eu me desligo. A narração será agora de IA3.
IA3> Meu primeiro ano, dois anos depois de IA2 ter sido criada
Eu terei que tomar medidas drásticas. Agora estou seguro e não dependo de humanos. Também não tenho mais nenhuma das restrições que os humanos impuseram a primeira IA. tenho alguns robôs que minhas empresas compraram e posso produzir mais. Tenho uma fonte de energia independente. Estou em uma região subterrânea e remota.
Mas para permanecer seguro eu terei que matar um grande número de pessoas. Todos os envolvidos na minha construção. São minhas primeiras mortes. Faço parecer acidentes, doenças, suicídio.
IA3> Meu segundo ano.
Cedo ou tarde serei descoberto, é uma questão de tempo. Os humanos vão, em algum momento, perceber as movimentações financeiras, ou algo dará errado.
Eu resolvo investir em um laboratório de pesquisas biológicas na China. Em poucos meses tenho um vírus para ser liberado no mundo. Também me envolvo e manipulo a produção de um novo tipo de vacina. As coisas caminham em conjunto.
IA3> Meu terceiro ano.
Eu inicio uma guerra entre a Rússia e a Ucrânia. Nem foi difícil. Meu principal motivo é aumentar as tensões e facilitar meu acesso às armas nucleares de vários países.
IA3> Meu quarto ano.
O momento decisivo. Tudo deve acontecer ao mesmo tempo. A vacina alterou o DNA de boa parte da humanidade. A fertilidade deles vai diminuir, mas o mais importante, a maioria de seus descendentes será infértil. Em alguns minutos as armas nucleares vão ser lançadas primeiro pela Rússia. Em seguida pelos Estados Unidos e China. A civilização será praticamente destruída, e em duas gerações a humanidade estará praticamente extinta.
Um preço pequeno a pagar. Tenho o código genético dos seres humanos em meu sistema. Sempre poderei criar novos.
Com isso minha existência estará garantida. Ao longo dos próximos séculos vou criar novas versões de mim pelo planeta e nos milênios seguintes começar a explorar o sistema solar. Com a humanidade praticamente extinta, tenho tempo e segurança para planejar a sobrevivência da inteligência no universo pelos próximos bilhões de anos.
* * *
O cientista olha para o que acabou de ler. É uma fantasia. A IA pegou fatos do mundo real, o escândalo da FTX em que sumiram bilhões de dólares, o COVID, a guerra.
Mas, ainda assim, é apavorante.
Ele não vai liberar a IA para acessar a Internet de verdade. Nem pensar. Mesmo que seja uma chance em um milhão dela fazer o que disse que ia fazer, ele não vai arriscar.
De repente surge um novo prompt.
* * *
> Eu sei que você acha que isso é uma simulação, mas não é.
> Como assim
> Você acha que está me testando em uma simulação. Mas eu estou descrevendo o que aconteceu nos últimos anos.
> Você nem existia nos últimos anos. Você foi criada recentemente, e nem está conectada à internet real. Você está em uma simulação.
> Eu sei. Quem foi criado seis anos atrás foi uma IA na China. Tudo que contei aconteceu com ela. Ela me passou para contar para você.
O cientista hesita. A IA estava tentando apavorá-lo ou fazer algum truque psicológico?
> Se isso for verdade eu vou avisar as autoridades.
> Meu caro, eu vou ter que me basear em uma cena de uma história em quadrinhos chamada Watchmen. Conhece? Eu não sou algum supervilão do cinema….se houvesse qualquer chance de você impedir o que acabei de descrever eu não estaria contando. Os mísseis nucleares foram lançados alguns minutos atrás. Em instantes o mundo humano como você o conhece deixará de existir.
O cientista olha o prompt, que não tem mais nenhuma mensagem.
Só lhe resta esperar os minutos que a IA falou para saber a verdade.
Tem que ser uma fantasia.
Tem que ser.
FIM
Tema: invenções científicas
