O que é o Llama 2 e como utilizar?
Do GPT-4 da OpenAI ao PalM 2 da Google, os modelos linguagem dominam as noticias tecnológicas.
Agora é a vez da empresa-mãe do Facebook, a Meta em parceria com a Microsoft, lançar o seu modelo de linguagem de grande escala, o Llama 2.
Está disponível gratuitamente para fins de pesquisa e uso comercial.
Neste artigo vamos ver o que é que o Llama 2?
O que tem de especial?
E em que difere dos modelos como o GPT-4, o PaLM 2 e o Claude 2?
O que é o Llama 2?
O Llama 2 é o modelo de linguagem de grande escala (LLM) da Meta AI, sucessor do modelo de linguagem Llama 1, que foi lançado no primeiro trimestre de 2023.
Para anunciar o seu lançamento, Mark Zuckerberg publicou uma foto com Satya Nadella, CEO da Microsoft, na sua conta no Instagram.
Está disponível desde 18 de julho é o resultado de uma parceria entre a Meta e a Microsoft, dois gigantes tecnológicos que pretendem liderar a vanguarda na investigação em inteligência artificial.
Pode dizer-se que é o chatbot da Meta AI é o equivalente ao GPT-4 da OpenAI, ao PaLM 2 da Google, e ao Claude 2 da Anthropic.
Foi pré-treinado com um conjunto de dados da Internet maior (mais recentes e mais diversificados) do que aqueles usados para pré-treinar o Llama 1.
Na página oficial podemos está mencionado que foi pré-treinado com mais 40% (tokens) dados do que o seu antecessor e tem o dobro do comprimento de contexto (4k tokens).
Se já teve a oportunidade de interagir com a Llama 1 no passado, mas não ficou muito impressionado com o seu resultado, fique a saber que o Llama 2 supera largamente o seu antecessor.
Como é que o Llama 2 face à concorrência?
Em primeiro lugar, é importante referir que o Llama 2 é um modelo de código aberto (open-source).
O que significa que a Meta AI está a publicar o modelo completo para que qualquer empresa ou pessoa possa utilizar para criar os seus próprios modelos ou aplicações.
A este nível de acesso código aberto se compararmoscom outros grandes modelos de linguagem de código aberto, como o Falcon ou o MBT, o Llama 2 supera a concorrência.
Pela nossa experiência, podemos mesmo afirmar que o Llama 2 é um dos mais poderosos modelos de linguagem de código aberto atualmente no mercado.
No entanto, se compararmos aos modelos de código fechado como os gigantes GPT da OpenAI e a linha PaLM dos modelos de IA da Google, o Llama 2 perde a vantagem.
O Llama 2 é principalmente um “modelo base fundamental”.
E os modelos de base são grandes modelos de linguagem construídos tendo em conta possíveis adaptações futuras.
Não estão ajustados a nenhum domínio específico, mas são construídos para poderem lidar com uma vasta gama de tarefas.
Cada um pode ajustar o modelo e aperfeiçoar a sua eficiência a determinado domínio específico.
Por exemplo é como utilizar o modelo base fundamental do GPT e transformá-lo no ChatGPT, para que possa ser utilizado pelo público em geral.
Como utilizar o Llama 2?
Embora o Llama 2 não esteja disponível numa plataforma pública como o ChatGPT, é possível utilizar o Llama 2 através de uma instância alojada (nuvem) no Azure AI, Amazon Web Services ou no Hugging Face entre outros provedores.
Por outro lado, pode executar o modelo do Llama 2 localmente no seu Windows.
O modelo está disponível para download gratuitamente no site oficial da Meta AI.
Para isso terá que pedir acesso pedir o acesso, através do formulário (inserir o nome, e-mail, localização e nome da organização) a Meta AI analisará o seu pedido.
O acesso poderá ser negado ou concedido em algumas horas ou até dois dias normalmente.
O nosso acesso foi concedido em minutos, por isso espero que também tenha sorte.
Para utilizar no Hugging Face, abra uma nova página com a demonstração (demo) do modelo Llama 2 70B Chatbot.
Por baixo da caixa, na linha branca onde diz” Type a message…”, insira a sua mensagem, pergunta ou instruções (prompt) e em seguida clica no botão ‘Submit‘ para obter as respostas ou resultados.
Poderá levar algum tempo a responder devido ao número de pessoas a experimentar.
Os modelos disponíveis ajustados para aplicações de diálogo (Llama 2-Chat) são:
- Chat demo (7B)
- Chat demo (13B)
- Chat demo (70B) on TGI
Os modelos acima referidos já foram aperfeiçoados para aplicações de conversação RLHF (Reinforcement Learning from Human Feedback), pelo que é o mais próximo de ChatGPT.
Não tem a certeza de qual a versão a experimentar?
Recomendamos a opção, Llama 2 70B Chatbot.
No entanto pode experimentar os três modelos para ver qual deles funciona melhor para as suas necessidades específicas.
Experimentámos o chat demo com parâmetros 70B e os resultados foram impressionantes.
Vantagens do Llama 2?
Uma das grandes vantagens do modelo de inteligência artificial generativa Llama 2 é que ele está disponível em código aberto, o que significa que é livre e pode ser utilizado tanto para fins pessoais como comerciais.
Obrigado Mark Zuckerberg.
Agora, tanto grandes empresas quanto empresários e académicos podem aceder a esta poderosa ferramenta sem nenhum custo.
Uma das vantagens desconhecidas dos modelos de acesso aberto é o facto de termos o controlo total sobre o prompt do sistema nas aplicações de conversação.
É possível por exemplo especificar por defeito a personalidade e comportamentos do assistente AI chatbot.
E criar um assistente AI chatbot, idêntico ao ChatGPT sem a necessidade de compartilhar os dados com a Meta AI, bem diferente com da OpenAI.
Esta grande vantagem capacita as pessoas e as empresas de aproveitar o potencial do modelo de linguagem de grande escala, mantendo o controle total sobre os seus próprios dados.
Conclusão
Os modelos ajustados são impressionantes, mas o mais impressionante é a decisão da Meta AI, disponibilizar gratuitamente o Llama 2 para e uso comercial.
Potenciando assim o desenvolvimento de novas experiências de IA generativas e novas oportunidades económicas e sociais.
É muito fácil de prever que rapidamente aparecerá modelos ou aplicativos novos mais poderosos criados com base no modelo Llama 2.
Se tem estado à espera de uma alternativa aos chatbots de código fechado, o Llama 2-Chat é neste momento a melhor escolha!
Na nossa Agência de Marketing Digital Marketing Gabriel estamos muito entusiasmados com o lançamento do Llama 2!
E acima de tudo com a democratização do uso da inteligência artificial.
Autor
Gabriel Cunha
Especialista em Marketing Digital, SEO e Anúncios Pagos na Agência de Marketing Digital & IA, que oferece serviços de marketing digital e de inteligência artificial altamente qualificados e equipas especializadas em estratégias e desenvolvimento de negócios.
Deixe um comentário