A transição para uma Inteligência Artificial Geral, presente em todos os equipamentos e dispositivos, em todos os lugares, será gradual. Levou bilhões de anos para a inteligência biológica emergir e dezenas de milhões de anos para os humanos evoluírem. A ascensão da IA Geral, ao contrário do que afirmam os CEOs da Anthropic (Dario Amodei) e da NVIDIA (Jensen Huang), provavelmente também levará décadas, não anos. E durante todo esse tempo, os humanos estarão no controle, orientando o desenvolvimento da IA de acordo com nossos valores.
1.Acredito que começará com sistemas que podem aprender como o mundo funciona, como animais bebês. Em seguida, teremos máquinas impulsionadas por objetivos que satisfazem limites definidos pelos humanos. Depois, teremos máquinas que podem planejar e raciocinar para satisfazer esses objetivos. Eles precisam absorver grandes quantidades de dados e discernir padrões. Nesta fase, os sistemas de IA mal parecem inteligentes. Aliás, acredito que esta fase já está sendo superada.
2. Em seguida, os sistemas de IA precisarão estabelecer objetivos e parâmetros para orientar seu comportamento. Teremos que definir limites cuidadosos para garantir que eles permaneçam alinhados e controláveis. Nesta fase, os sistemas de IA serão aproximadamente tão inteligentes quanto pequenos animais domésticos.
3. Depois, teremos máquinas que podem planejar hierarquicamente - a capacidade de estabelecer sub-objetivos e sequências de ações. No início, essas máquinas mal serão mais inteligentes do que um camundongo ou um rato. Então, ampliaremos essas máquinas para serem tão inteligentes quanto um cão ou um corvo. Espera-se que eles sejam incrivelmente versáteis e capazes de executar uma ampla gama de tarefas.
4. Depois disso, os sistemas de IA serão capacitados para planejar e raciocinar sobre como alcançar seus objetivos dados os limites estabelecidos por nós, humanos. Podemos esperar que eles sejam tão inteligentes quanto os primatas nesta fase. Eles precisarão de sofisticadas capacidades de planejamento e resolução de problemas. Neste momento eles simplesmente serão incrivelmente bons em atingir os objetivos satisfazendo os limites que definirmos.
5. Em seguida, ajustaremos os limites dessas inteligências para tornar esses sistemas controláveis e seguros à medida que os ampliamos. Depois, os treinaremos em uma grande variedade de ambientes e tarefas. Em seguida, os afinaremos em todas as tarefas que queremos que eles realizem.
6. Em algum momento, perceberemos que os sistemas que construímos são mais inteligentes do que nós na maioria dos domínios. Isso não significa necessariamente que esses sistemas terão senciência ou "consciência" (qualquer que seja o conceito disso para você). Mas eles serão melhores do que nós na execução das tarefas que estabelecemos para eles. Eles estarão sob nosso controle.
Sempre superestimamos a mudança que ocorrerá nos próximos dois anos e subestimamos a mudança que ocorrerá nos próximos dez.
À medida que a IA se torna cada vez mais poderosa, precisaremos repensar nossas suposições sobre o que é possível ou provável de alcançar em horizontes de tempo específicos. Sempre superestimamos o progresso potencial nos próximos dois ou três anos, porque não levamos em consideração os muitos desafios difíceis que permanecem.
Mas subestimamos sistematicamente o que será possível em uma ou duas décadas, porque subestimamos a capacidade exponencial da tecnologia de escalar ao longo do tempo.
Conforme a IA avança de sistemas com inteligência de rato para inteligência canina e eventualmente primatas, os riscos potenciais e impactos sobre a sociedade aumentam dramaticamente.
Portanto, à medida que avançamos, também devemos fortalecer nossos esforços para alinhar esses sistemas com nossos valores e garantir que eles permaneçam benevolentes. Felizmente, à medida que esses sistemas ficam mais inteligentes, também ficam muito melhores em ajudar a garantir sua/nossa própria segurança.
Em resumo, o surgimento da IA super-humana será um processo, não um evento singular. Pode levar décadas. Durante todo esse tempo, estaremos no comando, orientando o desenvolvimento da IA de maneira responsável. Mas também devemos permanecer humildes e reconhecer os limites de nossa capacidade de prever o futuro longínquo desta poderosa tecnologia.