A Meta AI anunciou nesta semana o lançamento do Code Llama 70B, modelo avançado de geração de código. A nova ferramenta promete agilizar o desenvolvimento de software e é capaz de escrever código em diversas linguagens de programação com maior precisão e eficiência. Com variantes especializadas, como o CodeLlama-70B-Instruct e o CodeLlama-70B-Python, o modelo tem […]
A Meta AI anunciou nesta semana o lançamento do Code Llama 70B, modelo avançado de geração de código. A nova ferramenta promete agilizar o desenvolvimento de software e é capaz de escrever código em diversas linguagens de programação com maior precisão e eficiência.
Com variantes especializadas, como o CodeLlama-70B-Instruct e o CodeLlama-70B-Python, o modelo tem a capacidade de compreender instruções em linguagem natural e gerar código correspondente de forma ágil.
Baseado no Llama 2, o Code Llama 70B é um grande modelo de linguagem (LLM) avançado treinado em 500 bilhões de tokens de código e dados relacionados a código. Sua capacidade de processamento é aprimorada, permitindo lidar com códigos mais extensos e complexos. Ele desponta como um dos maiores modelos de IA de código aberto, representando um novo padrão no campo da geração de código.
Leia mais: Meta lança Code Llama, nova IA de programação
Além de disponível para uso gratuito, tanto para pesquisadores quanto para usuários comerciais, o Code Llama 70B tem potencial de oferecer novas possibilidades de aplicação, como tradução, sumarização e análise de código. O modelo também pode ser acessado através de diversas plataformas, incluindo Hugging Face e TensorFlow.
”Estamos abrindo o código-fonte de um Code Llama novo e aprimorado, incluindo um modelo maior de parâmetros de 70B. Escrever e editar código emergiu como um dos usos mais importantes dos modelos de IA atualmente. A capacidade de codificar também provou ser importante para que os modelos de IA processem informações em outros domínios de forma mais rigorosa e lógica. Estou orgulhoso do progresso aqui e ansioso para incluir esses avanços no Llama 3 e também em modelos futuros”, disse Mark Zuckerberg, CEO da Meta AI em um comunicado postado em sua conta no Facebook.
O desempenho do Code Llama 70B no benchmark HumanEval atingiu 53%, superando o GPT-3.5 (48,1%) e se aproximando do desempenho de 67% do GPT-4, conforme relatado pela OpenAI. Uma das grandes novidades do Code Llama 70B é sua variante, o CodeLlama-70B-Instruct, projetada para compreender instruções em linguagem natural e traduzi-las em código.
Com uma impressionante pontuação de 67,8 no HumanEval, a variante supera outros modelos abertos e se equipara aos modelos fechados como GPT-4 e Gemini Pro. Além disso, essa versão pode executar várias tarefas, desde classificação até a implementação de algoritmos complexos.
O Code Llama 70B também apresenta o CodeLlama-70B-Python, otimizado para Python, com treinamento adicional em 100 bilhões de tokens de código Python. Isso o torna mais hábil em gerar código Python para tarefas como web scraping, análise de dados e machine learning.
*Com informações da Venture Beat
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
