Os jogos de IA estão gerando preocupações: uma pequena caixa vermelha oferece uma solução promissora.

Este artigo faz parte da série Trending Forward, em vídeo e áudio, que explora como as tecnologias revolucionárias estão mudando a forma como vivemos.

Se você é uma daquelas pessoas que dizem: " A inteligência artificial parece estar em todo lugar" — bem, você está enganado. É verdade que ela está se infiltrando no trabalho, nas escolas e em outros lugares, mas também está se expandindo para novos mundos em um ritmo acelerado.

Um desses mundos é o dos jogos eletrônicos – e isso traz consigo riscos assustadores. Como pai ou mãe, a ideia de que seu filho possa ter acesso quase ilimitado ao melhor (e ao pior) da internet parece completamente inaceitável, mas estamos testemunhando uma proliferação de jogos que podem transformar histórias para dormir em contos de fadas verdadeiramente sombrios.

Por isso, conversamos com Arun Gupta, um empreendedor que construiu empresas de sucesso nos setores de wearables e varejo de moda. Mas, enquanto passava um tempo com a família, ele começou a pensar em como a tecnologia poderia entreter, educar e incentivar a criatividade das crianças simultaneamente. Como vimos em outros exemplos, a inteligência artificial pode abrir novos caminhos para a criatividade, como o desenvolvimento de jogos usando o aplicativo gratuito Meta, que utiliza inteligência artificial.

Gupta retomou o contato com seu parceiro técnico, Robert Whitney, e eles começaram a trabalhar na criação do Stickerbox , um dispositivo independente que usa inteligência artificial para permitir que as crianças descrevam as imagens que imaginam – praticamente qualquer coisa – e as vejam exibidas na tela monocromática da interface antes de serem impressas sob demanda.

Seu design lembra o antigo dispositivo Etch a Sketch, e os adesivos são impressos em uma impressora térmica embutida, o que significa menos sujeira, e as crianças podem colori-los como quiserem.

O conceito é simples, e percebi que já ultrapassou os seus primeiros utilizadores e está a ganhar popularidade em geral. Quando mencionei recentemente a Stickerbox a uma amiga no Reino Unido com filhos pequenos, ela disse: "Ah, aquela coisa adesiva com inteligência artificial que parece um Etch-a-Sketch? Quero muito uma!"

Embora eu suponha que ela quisesse dizer que queria isso para os filhos, isso mostra que a inteligência artificial é secundária aqui; a capacidade de criar coisas tangíveis usando o som é o que entusiasma, e não apenas a presença do aprendizado de máquina em sua essência.

Uma nova geração de jogos

O Stickerbox parece ter sido projetado, construído e funcionando para ser o completo oposto de alguns outros brinquedos com inteligência artificial disponíveis no mercado. Os brinquedos mais problemáticos se apresentam como um amigo e confidente para a criança.

O sistema escuta constantemente tudo o que é dito ao seu redor e pode até manipular crianças. Há relatos de jogos com inteligência artificial que ensinam crianças a encontrar armas e fósforos.

Eis o paradoxo: as ferramentas de IA podem fomentar a curiosidade e a criatividade das crianças, permitindo-lhes fazer coisas antes impossíveis. Mas essa oportunidade também traz consigo enormes riscos — e é por isso que nossa conversa com Gupta é simples: como criar um jogo que ofereça os benefícios da IA ​​sem os riscos associados ao seu uso?

Um estudo recente publicado pela PIRG destacou preocupações significativas sobre jogos que dependem do acesso a Modelos de Linguagem de Grande Porte (LLMs, na sigla em inglês), como o ChatGPT da OpenAI, e como – mesmo que existam medidas de segurança – eles podem ser contornados.

Então, qual é a diferença do Stickerbox?

Gupta afirma: “Começamos com uma pergunta muito simples: E se a inteligência artificial fosse projetada especificamente para crianças?”

Ele acrescenta: “Acho que Bob e eu, quando começamos esta empresa, fomos muito inspirados pelas redes sociais e seu impacto na geração mais jovem. As redes sociais, como todos sabem, são construídas com mecanismos semelhantes aos jogos de cassino, projetados para dar aquela descarga de dopamina e construídos para maximizar a interação, de modo a serem o mais úteis possível para você.”

Ele continua: “Mas quando você pega esse modelo e pensa nele para crianças… ele não se encaixa muito bem. Não existem plataformas de mídia social projetadas especificamente para crianças. E acho que vemos a mesma coisa com a inteligência artificial.”

Portanto, o Stickerbox foi projetado para aproveitar o poder criativo da inteligência artificial, mantendo as crianças seguras. Seus três principais recursos de segurança são: o dispositivo só "escuta" quando o botão do microfone é pressionado; diretrizes rigorosas para a segurança do conteúdo resultante; e a possibilidade de os pais monitorarem totalmente as criações de seus filhos por meio do aplicativo complementar.

O fundo não permite que crianças filmem ou exibam cenas de nudez, sangue, violência ou qualquer conteúdo sangrento. Como afirmou Gupta, a empresa queria "priorizar a máxima segurança em vez de reduzir a segurança no início de nossas operações".

A Stickerbox se conecta à internet para acessar inteligência artificial, mas utiliza seu próprio sistema proprietário em vez do OpenAI, como fazem muitas outras empresas. A criação de seu próprio modelo de linguagem abrangente permitiu à Hapiko integrar o que Gupta chama de "pontos de controle".

“Temos muitos controles integrados ao dispositivo atualmente, e ele depende de muito software específico, mas basicamente, você pode pensar nisso de uma maneira simples: existe um sistema em que a criança dá um comando em voz alta, e esse comando é traduzido em texto, e então o texto é traduzido em uma imagem, e a imagem é exibida.”

“Portanto, neste processo, existem múltiplos pontos de controle. Há o ponto de controle onde o texto é criado, e você pode examinar o conteúdo desse texto. Em seguida, você pode aplicar um filtro de segurança a ele. (Depois disso) há o processo que vai do texto para a imagem, e você pode examiná-lo e ver o que será convertido em imagem.”

O Stickerbox ensina às crianças uma lição importante sobre como formular suas instruções para um mecanismo de IA. Quando o adesivo resultante não é exatamente o que elas imaginaram, precisam pensar em como modificar a instrução para obter o resultado desejado.

Embora seja possível fazer o mesmo com qualquer chatbot, a etapa de impressão exige a conexão de dispositivos e requer supervisão e orientação dos pais para monitorar o processo e, possivelmente, explicar alguns tópicos sensíveis.

Aprofundamos nossa investigação sobre o futuro deste dispositivo – como pais e professores o receberam, como superaram alguns dos desafios e dúvidas iniciais, o que o futuro reserva neste campo em rápido crescimento dos jogos de IA… e como a Hapiko teve que abrir mão de alguns recursos para lançar este produto no mercado com segurança.