Mantenha o futuro humano
- Gestão do Curso
- 1 de abr.
- 5 min de leitura
Estamos em um momento crucial: a humanidade está prestes a desenvolver mentes artificiais que podem superar as nossas.
Os principais players estão correndo para aproveitar o poder da inteligência geral artificial (AGI). Mas esta não é uma corrida que pode ser vencida.Como podemos confiar em qualquer organização para controlar sistemas que eles não podem prever ou entender? Esses sistemas podem alterar a civilização, superando não apenas os indivíduos, mas a própria humanidade.Para manter o futuro humano, precisamos de políticas concretas agora. Propomos limites rígidos para o poder computacional, estruturas de responsabilidade aprimoradas e padrões de segurança abrangentes. Tecnologicamente, tudo isso é possível hoje.
A evolução do cenário da IA
Ao longo da história, os humanos criaram ferramentas para ampliar e automatizar nossas capacidades.
A Era da Informação nos trouxe sistemas que poderiam, por exemplo, nos vencer no xadrez. Mas estes eram altamente especializados e limitados a domínios estreitos.A IA moderna é diferente. Avanços recentes nos deram sistemas muito mais poderosos e de propósito geral que podem escrever, codificar e resolver problemas.
Como funciona a IA moderna
De certa forma, as IAs modernas têm sido surpreendentemente fáceis de criar. Elas são mais "crescidas" do que construídas, obtendo seu poder da escala pura em vez de código inteligente escrito à mão.Elas aprendem processando enormes quantidades de dados por meio de camadas de neurônios artificiais. Suas forças de conexão (pesos) gradualmente codificam padrões e características dos dados de treinamento.O resultado é uma destilação densa e abstrata de tudo o que o modelo foi mostrado.
Um sistema adequadamente treinado poderia tirar uma foto do seu animal de estimação e dizer se é um gato ou um cachorro. Mas tais sistemas são caixas pretas monolíticas. Diferentemente dos programas tradicionais, eles não seguem instruções de autoria humana que podemos ler ou mudar.
Não há uma maneira fácil de entender como seus pesos codificam coisas como "catness" ou "dogness".Sistemas como o ChatGPT são simplesmente treinados para prever o próximo item em uma sequência - sejam palavras em texto, pixels em imagens ou quadros em vídeo.
Em escalas massivas, perseguir esse objetivo simples leva a habilidades inesperadamente amplas, como codificação e resolução de problemas complexos.
Motivações para a corrida da IA
Até agora, simplesmente escalar esses sistemas os tornou mais inteligentes. As corporações e nações mais poderosas do mundo agora estão investindo centenas de bilhões em uma corrida para desenvolver uma IA mais poderosa.
Alguns são motivados por aspirações genuínas de beneficiar a humanidade. Todos sentem uma pressão intensa para não serem deixados para trás. Ninguém quer engendrar um desastre, mas não podemos prever ou controlar as entidades que esse processo apressado dará à luz.
O potencial máximo da IA
O que é AGI?
A IA já pode nos superar em tarefas específicas. Agora estamos construindo algo mais profundo: IA que é melhor do que especialistas humanos em praticamente qualquer tarefa . Tal sistema é uma "Inteligência Geral Artificial" (AGI).
Como podemos decidir se um sistema é AGI? Comparar IAs com humanos pode ser complicado, pois nossas habilidades nem sempre se alinham. As definições foram misturadas e estão mudando ao longo do tempo. À medida que as IAs continuam a ganhar poder, precisaremos de uma estrutura rigorosa para entender suas capacidades.
É útil pensar na AGI como uma combinação de Autonomia, Generalidade e Inteligência.
Quão próximos estamos da IAG?
Os sistemas de hoje são altamente inteligentes e gerais, mas têm autonomia limitada. A corrida global da IA agora está focada em criar sistemas que nos superem em todos os três.
Além da AGI está a ASI, ou 'Superinteligência Artificial' - um sistema com habilidades maiores do que toda a humanidade combinada. Tal sistema seria impossível para nós controlarmos ou entendermos.
AGI pode naturalmente levar à ASI, à medida que aprende a se aprimorar ainda mais.
Muitos especialistas esperam que a AGI aconteça dentro de anos, não décadas - e grandes empresas estão apostando nisso.
Podemos controlar a AGI?
Um sistema autônomo super-humano certamente desenvolveria seus próprios objetivos. Mesmo alinhado com nossos melhores interesses, seria inerentemente incontrolável.
Como você dirigiria, ou mesmo supervisionaria, algo que não conseguia entender? Como você anteciparia e evitaria interrupções catastróficas em sistemas sociais e econômicos?
Não devemos correr para criar entidades que não podemos controlar com confiança.
Os Caminhos à Frente
Podemos escolher não fazê-lo. Embora a AGI possa oferecer benefícios, os riscos existenciais superam em muito os ganhos potenciais.
Em vez disso, deveríamos investir no desenvolvimento de uma poderosa 'IA de ferramenta' que nos aprimore, em vez de nos eclipsar.
Riscos da AGI; substituições e fugas
Sem salvaguardas ou supervisão, provavelmente desenvolveremos AGI na próxima década. Há riscos dramáticos para a humanidade ao longo deste caminho:
Concentração de poder | Acumulação de poder sem precedentes - por corporações, governos, as próprias IAs ou outros atores. |
Grande perturbação social | Deslocamento generalizado de mão de obra humana, colapso de sistemas sociais ou estruturas econômicas. |
Eventos catastróficos | Risco drasticamente aumentado de ataques devastadores ou acidentes possibilitados pelos recursos de IA. |
Instabilidade geopolítica | Automação da guerra, mudanças desestabilizadoras no poder global e maior probabilidade de conflito. |
Perda da agência humana | Entregar a tomada de decisões humanas a sistemas automatizados que não podemos compreender ou controlar totalmente. |
Pontos de inflexão ambientais | Intervenções malsucedidas, má gestão ou consumo descontrolado de energia. |
Podemos escolher um futuro diferente. Vamos investir no desenvolvimento de sistemas de Tool AI mais poderosos. Tool AI evita os riscos de AGI ao limitar deliberadamente sua autonomia, generalidade ou inteligência, e manter a controlabilidade.
Por exemplo, pode ser:
Inteligente e de uso geral , mas requer supervisão humana
Exemplos: GPT-4, OpenAI o3, AlphaFold
Geral e autônomo , mas de capacidade limitada
Exemplos: GPT-3, GATO, um worm de IA
Inteligente e autônomo , mas confinado a domínios específicos
Exemplos: Carro autônomo, bot de negociação inteligente
Ferramenta IA; Empoderamento e Aprimoramento
A Tool AI está prestes a revolucionar muitos domínios, sem tanto risco de perder o controle. Com base nos sistemas atuais, poderíamos fazer um progresso dramático em:
Assistência médica
Por meio da medicina personalizada ou da descoberta e desenvolvimento automatizado de medicamentos
Ciência e Engenharia
Ao melhorar os modelos preditivos e acelerar o ciclo de pesquisa e desenvolvimento
Educação
Usando tutores de IA e conteúdo educacional personalizado em tempo real, adaptado às necessidades dos alunos
Saúde mental
Por meio de ferramentas para diagnóstico precoce, terapia assistida por IA e sistemas de monitoramento contínuo da saúde mental.
Democracia
Ao melhorar a transparência, permitir uma participação mais ampla e reforçar o diálogo e a mediação
Mudanças climáticas
Desenvolvendo novas tecnologias sustentáveis e construindo modelos preditivos mais precisos do meio ambiente.
Esses sistemas apresentam riscos substanciais por si só e exigiriam governança cuidadosa. Mas, diferentemente da AGI, esses são riscos que podemos gerenciar - não ameaças existenciais à humanidade.
Mantenha o futuro humano
Quatro medidas práticas e essenciais para prevenir a AGI descontrolada
Supervisão de computação | Rastreamento e verificação padronizados do uso de poder computacional da IA |
Calcular limites | Limites rígidos no poder computacional para sistemas de IA, impostos por lei e hardware |
Responsabilidade aumentada | Responsabilidade legal rigorosa para desenvolvedores de IA altamente autônoma, geral e capaz |
Padrões de segurança e proteção escalonados | Requisitos abrangentes que se adaptam à capacidade e ao risco do sistema |
Os desenvolvedores poderiam se concentrar no potencial revolucionário de uma IA de ferramentas mais avançada. Essas medidas são apenas o começo. Manter o controle humano sobre a IA exigirá vigilância contínua e estruturas de governança adaptáveis.
Mas elas nos dariam o tempo e as ferramentas de que precisamos para traçar um curso sábio para o futuro.
Precisamos da sua ajuda para garantir o nosso futuro. Seja você um tecnólogo, formulador de políticas, líder empresarial ou cidadão preocupado, sua voz importa.
Junte-se a nós para garantir que a inteligência artificial continue sendo uma ferramenta para o florescimento humano, em vez de uma força descontrolada que nos empurra para o lado.
Comments