Inteligência artificial, quando o criador mata a criatura, sem querer
- Caio Weber
- Atualizado: Domingo, 04 Agosto 2024 14:27
- Views: 39
As pessoas estão maravilhadas com todas as possibilidades que a Inteligência Artificial promete, e a cada dia que passa mais e mais gente se rende às facilidades de ferramentas como o ChatGpt ou o Gemini do Google e todos os dias surgem novas 'soluções' para tornar a vida dos humanos mais fácil. Agora, você nem precisa queimar a mufa para escrever um artigo de blog ou até uma petição para o juiz, basta sacar o celular e vualá!, em questão de segundos você tem todo o trabalho feito por um robô, basta dar uma passada de olhos, uma ajeitadinha aqui e alí e está pronto.
Nunca foi tão fácil ser escritor, jornalista ou quem sabe até advogado. Mas a verdade é que este gênio que estamos tirando da garrafa tem um grande calcanhar de Aquiles. O homem criou a inteligência artificial e ela precisa ser treinada ou 'alimentada' por ideias que foram criadas incialmente pelo próprio homem, mas ocorre que a criatura está fazendo com que o criador deixe de criar coisas novas. Ao deixarmos de criar nossos próprios textos, imagens, pinturas, músicas e sabe-se lá que mais estamos fazendo com que o suprimento de informação que deveria alimentar o gênio passe a ser criado pelo próprio gênio. E é justamente isto que pode acabar com ele e eu não sei se isso não seria a melhor coisa as ser feita...
Possível colapso das inteligências artificiais
No mundo da inteligência artificial (IA), um aviso severo está ecoando: as ferramentas generativas podem estar à beira do colapso. Essas IA, que dependem intensamente de grandes volumes de dados humanos para operar eficazmente, estão enfrentando um novo desafio preocupante: a contaminação crescente do conteúdo online com informações artificiais.
O problema em questão
Recentemente destacado em um estudo publicado na Nature, o problema é claro: à medida que mais conteúdo gerado artificialmente se infiltra na web, as IA começam a falhar em produzir resultados significativos. O fenômeno é alarmante pela rapidez com que pode ocorrer. Em testes conduzidos pela Universidade de Oxford, bastaram nove ciclos de treinamento baseados em conteúdo artificial para que modelos começassem a produzir respostas incoerentes. Um exemplo notório foi quando um sistema destinado a discutir arquitetura medieval começou a delirar sobre espécies fictícias de coelhos.
Os mecanismos do possível colapso
Ilia Shumailov, autor principal do estudo, explicou que o colapso das IA ocorre em fases. Inicialmente, os modelos perdem a capacidade de lidar com dados menos comuns, resultando em respostas cada vez mais distorcidas e imprecisas. Em estágios avançados, a falha se torna total, incapacitando completamente o sistema.
Soluções emergentes
Para evitar tal desastre tecnológico, é imperativo adotar medidas proativas. Uma abordagem crucial é a curadoria cuidadosa dos dados utilizados, priorizando fontes humanas verificadas. Além disso, a implementação de marcadores ou "marcas d’água" pode ajudar na identificação e filtragem de conteúdos artificiais, seja em texto, áudio ou vídeo. Essas estratégias são essenciais para garantir que as IA continuem a operar de maneira confiável e precisa.
Resumindo, enquanto o potencial das IA generativas é vasto, sua fragilidade diante da contaminação por dados artificiais exige uma abordagem cautelosa e inovadora para preservar sua eficácia e relevância futuras.
Seria o fim das IAs generativas e o inicio da inteligência artificial metacognitiva?
É o que Bill Gates pensa, ele prevê uma queda a curto prazo para as IAs atuais e aposta no futuro da inteligência artificial metacognitiva. Bill Gates tem sido um dos principais nomes na inovação tecnológica dos últimos quarenta anos. Mesmo após deixar a gestão da Microsoft, o bilionário continua na vanguarda da inovação, compartilhando suas perspectivas sobre avanços como a inteligência artificial, que ele descreveu como "um ponto de vista" em várias ocasiões.
Um papagaio estocástico avançado
No final do mês passado, Gates participou do podcast Next Big Idea Club e refletiu sobre o futuro da IA e sua evolução. Ele afirmou estar impressionado com o rápido progresso da inteligência artificial e reconheceu seu potencial transformador em diversas áreas. No entanto, Gates observou que os modelos de IA atuais, como ChatGPT ou Llama, carecem de sofisticação devido aos seus comportamentos não determinísticos. Eles são, essencialmente, "papagaios estocásticos" que repetem com alguma coerência o que foram ensinados, sem capacidade para fazer algo inesperado.
A limitação dos modelos atuais
Apesar da revolução que representam na automação de processos, Gates reconhece que esses modelos carecem das dimensões completas de pensamento que os humanos possuem naturalmente. Ele aponta que a próxima fronteira a ser alcançada é a “metacognição”, referindo-se a um sistema que tenha consciência do próprio pensamento. Essa autoconsciência permite aos humanos adquirir e aplicar conhecimentos de maneiras diferentes para alcançar resultados variados, em vez de repetir as mesmas conclusões "aprendidas". Segundo Gates, a metacognição é "o Santo Graal" que tornaria a IA muito mais do que um simples assistente que melhora nossas capacidades, transformando-nos em "super-humanos".
O futuro da IA
Gates afirma que os modelos atuais de IA calculam constantemente cada token e sequência, e é impressionante que isso funcione. No entanto, ele acredita que a estratégia cognitiva dos Modelos de Linguagem de Grande Escala (LLMs) deveria "pensar nos problemas de forma ampla". Gates prevê que os modelos atuais ainda evoluirão por algumas gerações, melhorando exponencialmente suas respostas, mas só aprimorarão sua capacidade de aprendizagem aumentando os dados de treino e o poder computacional. No entanto, isso não resolverá sua principal desvantagem: confiabilidade e precisão.
A "aristotelização" da IA
Gates sugere que a IA do futuro deve ser capaz de decompor um problema amplamente para ver todas as suas variáveis e recompor uma nova solução criativa, baseada em certezas e não em alucinações. Esse processo é semelhante ao proposto por Aristóteles em sua abordagem de resolução de problemas com o pensamento do primeiro princípio, um método que Elon Musk, Steve Jobs e outros usaram para resolver problemas complexos sem soluções pré-existentes satisfatórias.
Em resumo, Bill Gates acredita que a próxima grande evolução da IA será sua capacidade metacognitiva, permitindo uma análise mais profunda e uma aplicação mais criativa do conhecimento, movendo-se além das limitações dos modelos atuais.
