PaLM
PaLM | |
---|---|
Desenvolvedor | Google AI |
Idioma(s) | Inglês |
Gênero(s) | Modelo de linguagem grande |
PaLM (Pathways Language Model) é um modelo de linguagem grande desenvolvido pela Google.[1][2] Ele tem 540 bilhões de parâmetros e usa o sistema Pathways para treinar um único modelo em vários Pods TPU v4.[1] PaLM é um modelo Transformer somente de decodificador que pode gerar texto em vários domínios e tarefas.[3][4]
PaLM não tem nenhuma ligação com o Palm, um aparelho celular compacto e simples que serve como um telefone auxiliar ou um dispositivo para uso familiar.
Referências
- ↑ a b Narang, Sharan; Chowdhery, Aakanksha. «Pathways Language Model (PaLM): Scaling to 540 Billion Parameters for Breakthrough Performance». ai.googleblog.com (em inglês). Consultado em 17 de março de 2023
- ↑ Chowdhery, Aakanksha; Narang, Sharan; Devlin, Jacob; et al. (2022). «PaLM: Scaling Language Modeling with Pathways». arXiv:2204.02311 [cs.CL]
- ↑ Driess, Danny; Xia, Fei; Sajjadi, Mehdi S. M.; et al. (2023). «PaLM-E: An Embodied Multimodal Language Model». arXiv:2303.03378 [cs.LG]
- ↑ Driess, Danny; Florence, Pete. «PaLM-E: An embodied multimodal language model». ai.googleblog.com (em inglês). Consultado em 17 de março de 2023