#25 - Estamos a Construir um ChatGPT Português Com o IA Amália
Neste episódio falo com o Bartolomeu e o João sobre o projeto Amália, o LLM português, e como estamos a tentar construir um negócio à volta dele (iaamalia.com). Partilhamos as nossas frustrações, vitórias e aprendizagens técnicas, desde as limitações do modelo Amália, às integrações que fomos construindo, até ao pivot que fizemos para o Caravela. Uma conversa honesta sobre empreendedorismo bootstrap em Portugal, inteligência artificial e o que aprendemos a tentar vender um produto de AI no mercado português. Links e Menções: Nosso projeto: https://iaamalia.com/ Euro LLM: https://eurollm.io Podsqueeze: https://podsqueeze.com Idealista: https://www.idealista.pt Portal Base: https://www.base.gov.pt INE: https://www.ine.pt Bolsa de Emprego: https://www.iefp.pt Deep Seek: https://www.deepseek.com Cursor: https://www.cursor.com OpenAI / ChatGPT: https://www.openai.com Anthropic / Claude: https://www.anthropic.com Google Gemini: https://gemini.google.com Mistral: https://www.mistral.ai Trivago: https://www.trivago.pt Academia de Código: https://www.academiadecodigo.org Timestamps: 00:00:00 Introdução ao projeto Amália e apresentação dos convidados 00:01:15 Bartolomeu conta como passou de design para developer 00:02:01 João e a transição para developer com ajuda da IA 00:03:10 O verdadeiro problema nunca foi o código mas sim as decisões de produto 00:04:18 O que é o Amália e como se compara com outros modelos 00:05:34 As limitações técnicas do Amália e a evolução da IA em dois anos 00:06:28 Valeu a pena gastar 5 milhões de euros no Amália 00:07:06 Comparação de parâmetros entre o Amália e modelos como o Deep Seek 00:07:52 A frustração com o Amália e a perceção pública do modelo 00:09:35 O Amália não serve para produção e alucina demasiado 00:10:01 Como começou o projeto e a estratégia de audience first 00:11:47 A ligação do Amália a um RAG e os primeiros desafios técnicos 00:12:26 O que é um RAG e como funciona 00:13:45 Quando o Amália conseguiu responder quem é o primeiro ministro 00:15:27 O que são evals e como os usámos para testar modelos 00:16:50 O Amália alucina mesmo com informação certa à frente dele 00:17:46 Comparação de modelos open source e escolha do cérebro do Caravela 00:18:06 Como funciona um eval na prática 00:19:07 O Amália fica em último nos seus próprios testes 00:19:51 O que é o reasoning e porque o Amália não o tem 00:21:02 O problema do tool calling no Amália e como demos a volta 00:22:09 O regime híbrido com o Amália como sub agente 00:23:30 O que é o Caravela e como funciona o model routing 00:25:03 A questão da privacidade e hospedar modelos na Europa 00:25:45 Os problemas com os providers europeus e o Deep Seek 00:27:04 Como construímos a nossa própria infraestrutura para resolver os erros 00:28:15 Providers a redirecionar tráfego para fora da Europa sem avisar 00:29:01 As primeiras tentativas de monetização e o que os clientes queriam 00:30:14 Os erros de vendas e as reuniões com potenciais clientes 00:31:55 O factor curiosidade versus o factor pagar 00:33:01 O nosso value proposition segundo os próprios clientes 00:34:37 A estratégia de cobrar logo uma fee inicial para filtrar interesse 00:35:00 O pivot para as integrações como valor principal do projeto 00:36:06 A perspetiva do Bartolomeu sobre o processo de empreendedorismo 00:37:00 A discussão geral sobre o futuro da IA e dos modelos open source 00:38:21 Porque é que as empresas ainda pagam caro por modelos de marca 00:40:14 O ROI da IA nas empresas bootstrap e a ilusão de produtividade 00:41:00 Mais funcionalidades não significa mais dinheiro 00:43:55 O futuro das grandes empresas de IA como OpenAI e Anthropic 00:45:17 A Apple e a estratégia de correr modelos localmente 00:48:58 Previsões sobre o mercado português e o futuro do projeto Amália 00:50:20 A estratégia de distribution first sem produto definido 00:51:14 O cliente do setor têxtil e as integrações com o INE 00:52:20 Apelo final e como contactar para integrar o Caravela na vossa empresa
