Blog

Jolla retirou oficialmente a primeira versão de seu assistente pessoal de IA baseado em servidor em desenvolvimento. A startup renascida está construindo um dispositivo de IA com foco na privacidade – também conhecido como Jolla Mente²que o TechCrunch revelou com exclusividade no MWC de volta em fevereiro.

Em um lançamento transmitido ao vivo evento na segunda-feira, também iniciou as pré-encomendas, com as primeiras unidades programadas para serem enviadas ainda este ano na Europa. As pré-encomendas globais começam em junho, com planos de envio ainda este ano ou no início do próximo.

Nos mais de dois meses desde que vimos o primeiro protótipo impresso em 3D do AI-in-a-box de Jolla, um entusiasmo considerável girou em torno de outros dispositivos de IA voltados para o consumidor, como Pin Ai da Humane e a Coelho R1. Mas o interesse inicial diminuiu diante de experiências de usuário ruins ou inacabadas – e uma sensação de que os gadgets de IA nascentes são pesados ​​em experimentação e pouco em utilidade.

A startup europeia por trás do Jolla Mind² está ansiosa para que seu dispositivo de IA não caia nessa armadilha, segundo o CEO e cofundador Antti Saarnio. É por isso que eles estão agindo “com cuidado” – tentando evitar a armadilha de prometer demais e entregar pouco.

“Tenho certeza de que este é um dos maiores momentos disruptivos para a IA – integração ao nosso software. É uma perturbação massiva. Mas as primeiras abordagens foram basicamente apressadas e esse era o problema”, disse ele ao TechCrunch. “Você deve apresentar um software que esteja realmente funcionando.”

O feedback é difícil, mas justo à luz dos lançamentos recentes.

Saarnio diz que a equipe está planejando enviar algumas centenas de unidades (até 500) do dispositivo para os primeiros usuários na Europa neste outono – provavelmente aproveitando a comunidade de entusiastas que construiu em torno de produtos anteriores, como o sistema operacional móvel Sailfish.

Preços do Jolla Mind² custará 699 euros (incluindo IVA) — portanto o hardware é consideravelmente mais caro do que a equipe planejou originalmente. Mas também há mais RAM (16 GB) e armazenamento (1 TB) integrados do que o orçado inicialmente. Menos bom: os utilizadores terão de desembolsar uma assinatura mensal a partir de 9,99€. Portanto, este é outro dispositivo de IA que não será barato.

Agentes de IA vivendo em uma caixa

A Mente Jolla² abriga uma série de agentes de IA ajustados para vários casos de uso com foco na produtividade. Eles foram projetados para integração com serviços de terceiros relevantes (por meio de APIs) para que possam executar diferentes funções para você, como um agente de e-mail que pode fazer a triagem de sua caixa de entrada e redigir e enviar mensagens. Ou um agente de contatos que Jolla demonstrou brevemente no MWC, que pode ser um repositório de informações sobre as pessoas com quem você interage para mantê-lo no topo de sua rede profissional.

Em uma videochamada com o TechCrunch antes do lançamento oficial de segunda-feira, Saarnio demonstrou a versão mais recente do Jolla Mind² — mostrando alguns recursos que não tínhamos visto antes, incluindo o mencionado agente de e-mail; um recurso de visualização e resumo de documentos; capacidade de assinatura eletrônica para documentos; e algo novo que chamamos de “bases de conhecimento” (mais abaixo).

Os recursos focados na produtividade que vimos sendo demonstrados estavam funcionando, embora houvesse alguns problemas notáveis ​​de latência. Um apologético Saarnio disse que os gremlins de demonstração atacaram no início do dia, causando problemas de desempenho de última hora.

A alternância entre agentes também era manual na demonstração da interface do chatbot, mas ele disse que isso seria automatizado por meio da compreensão semântica da IA ​​das consultas dos usuários para o produto final.

Os agentes de IA planejados incluem: um agente de calendário; agente de armazenamento; gerenciamento de tarefas; agente de mensagens (para integração com aplicativos de mensagens de terceiros); e um “agente treinador”, que eles pretendem usar em aplicativos e dispositivos de rastreamento de atividades/saúde de terceiros para permitir que o usuário consulte seus dados de saúde quantificados no dispositivo.

A promessa de processamento privado no dispositivo é o principal argumento de venda do produto. Jolla insiste que as consultas e dados dos usuários permaneçam seguros no hardware em sua posse. Em vez de – por exemplo, se você usar o ChatGPT da OpenAI – suas informações pessoais sejam sugadas para a nuvem para mineração de dados comerciais e para a oportunidade de lucro de outra pessoa…

A privacidade parece ótima, mas claramente a latência precisará ser reduzida ao mínimo. Isso é duplamente importante, dada a produtividade e conveniência do caso de uso de ‘prosumidor’ que Jolla também almeja, juntamente com seu foco estratégico principal no firewall de seus dados pessoais.

O argumento principal é que o modelo de IA de cerca de 3BN de parâmetros integrado do dispositivo (que Saarnio chama de “modelo de linguagem pequena”) pode ser conectado a todos os tipos de fontes de dados de terceiros. Isso torna as informações do usuário disponíveis para processamento adicional e utilidade extensível, sem que eles tenham que se preocupar com o comprometimento da segurança ou integridade de suas informações à medida que aproveitam o poder da IA.

Para consultas onde o Jolla Mind²Embora o modelo local de IA do Google possa não ser suficiente, o sistema fornecerá aos usuários a opção de enviar consultas ‘fora do mundo’ – para grandes modelos de linguagem (LLMs) de terceiros – ao mesmo tempo em que os alertará de que isso significa que estão enviando seus dados fora do espaço seguro e privado. Jolla está brincando com alguma forma de código de cores para mensagens para indicar o nível de privacidade de dados que se aplica (por exemplo, azul para segurança total no dispositivo; vermelho para caramba, seus dados são expostos a uma IA comercial, então todas as apostas de privacidade estão canceladas).

Saarnio confirmou que o desempenho será uma prioridade para a equipe enquanto ela trabalha no aprimoramento do produto. “É basicamente a velha regra de que se você quiser fazer um avanço, ele terá que ser cinco vezes melhor do que as soluções existentes”, disse ele.

A segurança também precisará ser absolutamente uma prioridade. O hardware fará coisas como configurar uma conexão VPN privada para que o dispositivo móvel ou computador do usuário possa se comunicar com segurança com o dispositivo. Saarnio acrescentou que haverá um backup criptografado dos dados do usuário baseado em nuvem, que será armazenado na caixa em caso de falha ou perda de hardware.

A arquitetura de criptografia de conhecimento zero escolhida para garantir que nenhum acesso externo aos dados seja possível será uma consideração importante para usuários preocupados com a privacidade. Esses detalhes ainda estão sendo descobertos.

Hardware de IA com um propósito?

Uma grande crítica feita aos primeiros dispositivos de IA, como o Ai Pin da Humane e o Rabbit R1, assume a forma de uma pergunta estranha: isso não poderia ser apenas um aplicativo? Dado, você sabe, todo mundo já está trazendo um smartphone.

Não é uma linha de ataque que obviamente se aplica ao Jolla Mind². Por um lado, a caixa que abriga a IA foi projetada para ser estática, não móvel. Mantido em algum lugar seguro em casa ou no escritório. Portanto, você não carregará dois pedaços de hardware na maior parte do tempo. Na verdade, seu celular (ou computador desktop) é a ferramenta usual para interagir com Jolla Mind² — por meio de uma interface conversacional estilo chatbot.

O outro grande argumento que Saarnio apresenta para justificar Jolla Mind² como um dispositivo é que tentar executar uma abordagem estilo servidor pessoal para processamento de IA na nuvem seria difícil – ou muito caro – de escalar.

“Acho que seria muito difícil dimensionar a infraestrutura em nuvem se você tivesse que executar o LLM local para cada usuário separadamente. Teria que ter um serviço de nuvem rodando o tempo todo. Porque começar de novo pode levar uns cinco minutos, então você não pode usar dessa forma”, argumentou. “Você poderia ter algum tipo de solução que você baixasse para o seu desktop, por exemplo, mas depois pudesse usá-la com seu smartphone. Além disso, se você quiser ter um ambiente com vários dispositivos, acho que esse tipo de servidor pessoal é a única solução.”

A base de conhecimento mencionada é outro tipo de recurso de agente de IA que permitirá ao usuário instruir o dispositivo a se conectar a repositórios de informações selecionados para ampliar ainda mais a utilidade.

Saarnio demonstrou um exemplo de um depósito de informações com curadoria sobre o desmatamento na África. Depois que uma base de conhecimento é inserida no dispositivo, ela fica disponível para consulta do usuário, ampliando a capacidade do modelo de ajudá-lo a entender mais sobre um determinado tópico.

“O usuário [could say] ‘ei, quero aprender sobre o desmatamento africano’”, explicou. “Então o agente de IA diz que temos um fornecedor aqui [who has] criou uma base de conhecimento externa sobre isso. Você gostaria de se conectar a ele? E então você pode começar a conversar com esta base de conhecimento. Você também pode solicitar que ele faça um resumo ou documento/relatório sobre o assunto ou assim por diante.

“Esta é uma das grandes coisas que estamos pensando – que precisamos ter classificado informações na internet”, acrescentou. “Portanto, você poderia fazer com que um líder inovador ou um professor de alguma área como ciência climática criasse uma base de conhecimento – carregasse todos os artigos de pesquisa relevantes – e então o usuário… poderia ter algum tipo de confiança de que alguém classificou essas informações.”

Se Jolla conseguir fazer isso voar, pode ser muito inteligente. LLMs tendem não apenas a fabricar informações, mas também a apresentar bobagens inventadas como se fossem a verdade absoluta. Então, como os usuários da web que navegam em um cenário cada vez maior de conteúdo da Internet gerado por IA podem ter certeza de que estão sendo expostos a informações genuínas?

A resposta da startup para esta crise de conhecimento em rápida expansão é permitir que os usuários apontem seu próprio modelo de IA no dispositivo para suas fontes preferidas de verdade. É uma solução agradavelmente centrada na agência humana para o problema da verdade da Big AI. Pequenos modelos de IA mais fontes de dados com curadoria inteligente também poderiam oferecer um tipo de ferramenta GenAI mais ecologicamente correta do que a Big AI está oferecendo, com sua abordagem de drenagem de energia, computação e dados pesados.

É claro que Jolla precisará compilar bases de conhecimento úteis para que esse recurso funcione. Ele prevê que eles sejam selecionados – e avaliados – pelos usuários e pela comunidade em geral que espera apoiar sua abordagem. Saarnio avalia que não é uma grande tarefa. Especialistas em domínios poderão facilmente agrupar e compartilhar repositórios de pesquisas úteis, sugere ele.

Jolla Mente² destaca outra questão: o quanto a experiência de software dos usuários de tecnologia normalmente está muito fora de seu controle. As interfaces de usuário são rotineiramente projetadas para distrair intencionalmente/monopolizar a atenção ou até mesmo serem totalmente manipuladoras. Portanto, outro ponto de venda do produto é ajudar as pessoas a recuperar sua agência de todos os padrões obscuros, lama, notificações etc., etc. – tudo o que realmente o incomoda em todos os aplicativos que você precisa usar. Você pode pedir à IA para eliminar o ruído em seu nome.

Saarnio diz que o modelo de IA será capaz de filtrar conteúdo de terceiros. Por exemplo, um usuário pode solicitar que sejam mostradas apenas postagens relacionadas à IA em seu feed X e não precisar ser exposto a mais nada. Isso se resume a um superpoder sob demanda para moldar o que você está ou não ingerindo digitalmente.

“Toda a ideia [is] para criar um ambiente de trabalho digital pacífico”, acrescentou.

Saarnio sabe melhor do que ninguém como é complicado convencer as pessoas a comprar dispositivos novos, dada a longa história de Jolla como fabricante alternativo de smartphones. Não é surpresa, então, que a equipe também esteja planejando uma estratégia de licenciamento B2B.

É aqui que a startup vê o maior potencial para escalar a adoção do seu dispositivo de IA, diz ele – postulando que poderia ter um caminho para vender “centenas de milhares” ou mesmo milhões de dispositivos através de parceiros. As vendas da comunidade Jolla, ele admite, provavelmente não ultrapassarão algumas dezenas de milhares, no máximo, correspondendo à escala limitada de sua base de fãs entusiastas e dedicados.

O componente de IA do produto está sendo desenvolvido sob outra (nova) entidade empresarial, chamada Venho AI. Além de ser responsável pelos cérebros do software que alimentam o Jolla Mind²esta empresa atuará como fornecedora de licenciamento para outras empresas que desejam oferecer versões de sua própria marca do conceito de servidor pessoal com assistente de IA.

Saarnio sugere que as empresas de telecomunicações podem ser um potencial cliente-alvo para licenciar o modelo de IA – dado que estes operadores de infra-estruturas mais uma vez parecem prestes a perder os despojos digitais à medida que os gigantes da tecnologia se dedicam a incorporar IA generativa nas suas plataformas.

Mas, primeiro as primeiras coisas. Jolla/Venho precisa lançar um produto sólido de IA.

“Precisamos primeiro amadurecer o software e testá-lo e construí-lo com a comunidade – e então, depois do verão, começaremos a discutir com parceiros de distribuição”, acrescentou.