Swiftlet: Como Rodar LLMs de 80B em Pouca RAM no Mac e iPhone
Conheça o Swiftlet, motor de inferência que permite executar modelos de linguagem de 80B parâmetros em aparelhos com pouca memória RAM usando quantização avançada.
Conheça o Swiftlet, motor de inferência que permite executar modelos de linguagem de 80B parâmetros em aparelhos com pouca memória RAM usando quantização avançada.
A Apple revelou uma nova arquitetura de inteligência artificial que coloca o Google Gemini como base dos seus modelos em nuvem. Entenda o que muda no iPhone, como isso afeta desenvolvedores iOS e por que essa parceria importa.