Acho que seu produto tem um efeito democratizante profundo. Em teoria, uma criança sentada em uma cidade provincial na zona rural do Brasil deveria ser capaz de receber a mesma interação responsiva com o professor de IA Efekta que alguém que mora em Mayfair.
Perdeu-se alguma coisa com a introdução da IA na sala de aula? Acabaremos com uma geração de estudantes que usam chatbots como muleta – para redigir redações, resolver problemas e assim por diante?
Eles farão isso, de qualquer maneira. Tentar excluir a IA das escolas não faz sentido. É sobre como você incorpora a IA na educação. Os maus professores irão utilizá-lo mal, e os bons professores irão utilizá-lo muito bem – tal como fizeram com os quadros brancos e as calculadoras.
Mas estamos falando de uma mudança mais fundamental. Estou perguntando o que pode significar para os alunos não desenvolverem habilidades fundamentais.
Se você voltar à época em que as calculadoras foram inventadas, [people thought that] as crianças nunca serão capazes de fazer aritmética mental. Mas não foi esse o caso. Isso terá um efeito, é claro. Mas penso que o efeito líquido deverá ser positivo em termos de desempenho educativo.
As crianças são provavelmente especialmente vulneráveis aos tipos de perigos associados aos chatbots. Como você pensa sobre esses riscos?
É claro que existem perigos – particularmente, adultos e crianças vulneráveis tornam-se emocionalmente dependentes e investem numa relação com algo que tem um avatar, uma presença humanóide nas suas vidas.
A nível social, devemos adotar uma abordagem muito cautelosa. Acho que você deveria ter uma definição clara de idade sobre como as IAs agentes são disponibilizadas aos jovens.
Como a proibição das redes sociais na Austrália para menores de 16 anos?
Não adianta proibir se você não consegue medir a idade das pessoas. É aí que os decisores políticos se apressam a ver as manchetes sobre as proibições e não pensam bem nas questões bastante difíceis. A menos que você queira que todas essas plataformas mantenham os detalhes do passaporte de todos? Há muito tempo que penso que a única forma de o fazer é através dos pontos de estrangulamento do iOS e do Android, a um nível [app store] nível.
Mas, em princípio, acho que você deveria adotar uma abordagem de precaução semelhante. A suscetibilidade de se tornar altamente envolvido emocionalmente e talvez indevidamente influenciado por seu relacionamento com uma voz gentil e paciente 24 horas por dia, que está ouvindo você o tempo todo, é muito real.
No entanto, não creio que seja um risco com o tipo de produtos que a Efekta produz.
Mesmo que a IA esteja literalmente assumindo o papel do professor?
Bem, não, porque não é. Essas IAs agentes produzidas por empresas como a Efekta não terão algum tipo de relacionamento clandestino à meia-noite, onde dizem todo tipo de coisas horríveis a um aluno. É uma experiência controlada pelo professor.
Você passou quase sete anos na Meta. Naquela época, a IA se tornou o tecnologia de fronteira. Estou curioso para saber como sua experiência na Meta influenciou sua perspectiva sobre as oportunidades, os riscos e os limites da IA – e a busca pela superinteligência.
Se você perguntar a três pessoas da mesma organização o que é superinteligência, obterá três respostas diferentes. Tenho a impressão de que todos no Vale do Silício têm que dizer que estão próximos da inteligência artificial geral ou da superinteligência, porque essa é a maneira de atrair os melhores cientistas de dados. Acho difícil lidar com um conceito tão complicado como esse.
