top of page
  • Foto do escritorRicardo Rochman

Não Pause o Desenvolvimento da IA

Quando li a notícia que Elon Musk pedia pausa no desenvolvimento de inteligência artificial (IA), a minha primeira reação foi pensar que era dia 1o de abril, pois isso não deveria vir de alguém que teve historicamente vários problemas com ética nos negócios e depende da inteligência artificial no seu principal negócio (a Tesla e seus carros autônomos), e no recém adquirido Twitter (rede social que usa IA para direcionar publicidade). Mas aí chequei o calendário e vi que era 29 de março, e que existia uma carta aberta do Future of Life Institute com título "Pause Giant AI Experiments: An Open Letter" (https://futureoflife.org/open-letter/pause-giant-ai-experiments/), que convoca todos os laboratórios de IA para interromper imediatamente por pelo menos 6 meses o treinamento de sistemas de IA mais poderosos que o GPT-4 (trecho em itálico trazido do inglês usando a IA do Google), e "se a pausa não puder ser decretada rapidamente então os governos devem intervir e instituir uma moratória". Isso é no mínimo instigante, pois vamos lembrar que alguns desses governos foram eleitos graças ao uso de sistemas de IA durante o processo eleitoral, e com casos de falhas de ética e de moral por meio de fake news.


É preciso entender que computadores não são de fato inteligentes, mas sistemas de IA podem agrupar, selecionar e ordenar dados estruturados ou não, e assim parecer "inteligentes". Da mesma forma que as pessoas precisam ler mais e treinar mais para ficarem mais inteligentes, os sistemas de IA também precisam de MUITA (MUITA MESMO!) leitura e treinamento para se aprimorar. Assim como as pessoas, os sistemas podem aprender coisas erradas, já foram documentadas situações em que a IA se tornou preconceituosa e racista por falhas no treinamento (veja o documentário Coded Bias). Precisamos sim debater e criar mecanismos para garantir que sistemas de IA sejam desenvolvidos e USADOS de forma ética, segura, igualitária e confiável. Aliás, isso já deveria ter sido iniciado em 2016 com o caso do BREXIT e a Cambridge Analytica, mas aparentemente não era de grande interesse de empresas e governos. Agora o sucesso estrondoso do ChatGPT apavorou a concorrência.


O ChatGPT, que já está integrado ao Bing da Microsoft, revolucionará as buscas na internet e consequentemente vai abalar os modelos de negócios de várias empresas, e trabalho das pessoas. Hoje quando usamos o Google para fazer buscas, ele nos retorna uma série de links para entrarmos e pesquisarmos, e juntamente aparecem propagandas e links patrocinados que são grande fonte de faturamento da Alphabet. No entanto, com o ChatGPT fazemos as mesmas buscas realizadas no Google, mas vem respostas diretas sem necessidade de passearmos por links, agora imaginem como será o impacto no faturamento do Google se não haverá mais links patrocinados para exibir?


Empresas são como pessoas e possuem ciclo de vida, porém um ano de uma empresa de tecnologia é similar a um ano da vida de um cachorro, ou seja, uma pausa de 6 meses no treinamento de sistemas de IA equivale na realidade a uma interrupção de 3 a 4 anos no desenvolvimento dos sistemas (dados da vida de cachorro proveniente da página da American Kennel Club, já que resposta dada pelo ChatGPT era muito vaga). Se considerarmos que o ChatGPT obteve 100 milhões de usuários em apenas 2 meses do seu lançamento, a pausa de 6 meses teria um impacto negativo ainda maior que 3 a 4 anos de atraso, pois o ChatGPT pararia de ser treinado com os dados da internet e com o feedback da sua mais de centena de milhões de usuários. Há um mês atrás eu coloquei um problema de matemática financeira no ChatGPT, que elaborou bem a resposta, mas fez os cálculos de forma errada. Hoje coloquei o mesmo problema no ChatGPT, que vem sendo atualizado, a elaboração da resposta melhorou e dessa vez ele acertou os cálculos.


Pausar o treinamento dos sistemas de IA não é solução para o debate sobre ética, usos e perspectivas da IA na vida das pessoas e nações, muito pelo contrário, precisamos que os sistemas sejam usados e treinados para os aperfeiçoar continuamente. Além de ser questionável e até inviável, pois pesquisadores sempre continuarão pesquisando seja nas empresas ou suas casas, a proposta da pausa talvez seja uma forma de alguns conseguirem um tempo para recuperar o tempo perdido para a OpenAI do ChatGPT. O que estão pedindo na carta aberta é equivalente a pausar todo treinamento do Lionel Messi 6 meses antes do início da Copa do Mundo da FIFA, isso seria bom para quem?



Até a data da redação deste texto, não encontrei nomes de executivos da Alphabet/Google, Meta, Microsoft na lista de assinaturas da carta do Future Life Institute, como não encontrei de outras pessoas que trabalham no Twitter e na Tesla além de Elon Musk.


34 visualizações0 comentário

Posts recentes

Ver tudo

Comentarios


bottom of page