00:00Caio, eu sei que você é um cara muito conectado com o universo da tecnologia,
00:05não só no Brasil, mas você está aí sempre viajando um pouco de olho
00:07no que está acontecendo no mundo, e você falou agora um pouco sobre soberania.
00:12E eu queria que você, de forma didática, trouxesse um pouco para a gente
00:15essa visão, realmente é um tabuleiro essa questão da tecnologia.
00:19A gente tem de um lado a dependência física e material
00:21desses países que detêm esses minerais críticos,
00:24se a gente olhar para essa geopolítica, a gente vai ver questões
00:26China, Brasil, Congo, Chile, Indonésia, Ucrânia, com essa grande concentração,
00:31e a gente tem essa outra dependência digital e intelectual mesmo
00:34de quem desenvolve, quando a gente olha para os Estados Unidos, China, Europa.
00:38Se muitos países não têm acesso ao funcionamento interno
00:42desses sistemas que eles mesmos utilizam, como é que a gente pode falar em soberania?
00:46Quais são os caminhos para isso, numa perspectiva de governança do tema mesmo?
00:49E aí, Nina, depois eu te convido, inclusive, a falar um pouco sobre isso também.
00:53Muito legal.
00:54Como eu mencionei no final da minha última resposta,
00:58quando a gente fala de tecnologia, a gente não está falando só do que a gente vê
01:00na tela do celular, a gente está falando de toda uma cadeia de valores
01:04que agora está mais em disputa do que nunca,
01:08que sustenta essa tela aqui, desde o que constrói, que conecta,
01:11que manda essas informações, enfim, desde o mineral que a gente vai tirar lá.
01:17E a governança da tecnologia agora vem sendo feita nesse espaço
01:21e altamente concentrado nessas grandes empresas.
01:25Vou dar um exemplo agora, bem concreto, de um estudo que eu fiz em Harvard,
01:30com mais três brasileiros também, todos, inclusive o professor,
01:33todos originários de faculdades públicas.
01:35Mas, enfim, a gente estava olhando uma proposta que uma empresa soltou,
01:41que era assim, olha, a gente consegue fazer o nosso chatbot mais responsável,
01:45porque a gente treina eles com base em uma constituição aqui.
01:49E como que esse treinamento ocorre?
01:51Uma grande base de dados, sabe quando você usa o chat GPT,
01:54ele te dá duas opções, você fala, essa aqui é a melhor?
01:58É basicamente isso.
01:59São 160 mil iterações onde você tem um princípio,
02:05qual dos outputs respeita mais o direito à vida, o direito à privacidade?
02:09160 mil vezes, e isso é apresentado para o modelo,
02:13o modelo basicamente aprende a regra vendo 160 mil vezes iterações.
02:19Então, ela aprendeu o direito à vida, o direito à privacidade e tudo mais.
02:22E aí a gente treinou vários modelos, chat GPT, Claude, DeepSeek, Mistral,
02:28vários, para ver como que eles aplicam essas regras,
02:32ou seja, regras que são constitucionais até.
02:34E aí, bom, primeiro ponto, era completamente variável.
02:41As regras, dependendo do modelo, mudavam completamente.
02:44E aí a gente foi olhar a bula, cada modelo e cada base de dados
02:48tem um documento que dá as informações.
02:50A gente foi olhar a bula da base de dados.
02:53E aí, uma das bases de dados, aliás, que foi feita pela OpenAI,
02:57ela falava assim, olha, para a gente fazer essa base de dados,
03:00a gente selecionou pessoas que tinham um plexo de valores,
03:05um acaboço de valores, que refletiam o trabalhador médio da OpenAI.
03:09Falei, puxa, que legal.
03:11Então, o que meu chat GPT aqui vai entender como direito à privacidade,
03:15liberdade de expressão, direito à vida e um monte de outros,
03:18vai ser o que o trabalhador médio da OpenAI entende,
03:22e não o que eu ou o que nós entendemos.
03:25Então, esse exemplo dá a dimensão do problema da governança na camada.
03:31A cada instância, a gente tem essas disputas de poder
03:35que estão indo para o ambiente geopolítico.
03:37Então, quando a gente vem para o problema da soberania,
03:40eu entendo o seguinte, o Brasil é um país extremamente rico
03:44em tudo o que se necessita para a inteligência artificial.
03:47Mencionei talento, mas a gente sofre brain drain,
03:50e tem falta, escassez no mundo inteiro,
03:53mas a gente tem os minerais críticos, a gente tem água,
03:55que em muito lugar está em falta, a gente tem energia,
03:58a gente tem diversidade na rede,
04:01a gente tem uma população extremamente conectada,
04:03produzindo dado, quando você está ali no Instagram,
04:05você dá like, você está fazendo um trabalho de graça
04:07para o Instagram, falando,
04:08eu gosto desse sapato, eu gosto desse conteúdo.
04:12Então, assim, quando a gente chega na soberania,
04:15é pensar que a gente quer ser colônia,
04:18a gente vai produzir tudo o que é recurso crítico
04:20para um serviço que está lá fora,
04:23ou a gente vai começar a imprimir os nossos valores
04:26em todos esses lugares.
04:27Está bom, a gente vai minerar terras raras.
04:30Em que condições?
04:32Quais serão as populações afetadas?
04:34O que a gente vai trocar?
04:35Qual é o desenvolvimento?
04:36E em cada camada disso.
04:38Então, resumindo, soberania, para mim,
04:41a tecnologia chegou, ela é transversal,
04:44ela é transformativa,
04:46a gente tem o paradoxo,
04:47a gente quer o desenvolvimento,
04:49mas a gente não pode entregar a nossa alma,
04:52entendeu?
04:52A gente precisa pensar em tudo isso
04:54no interesse,
04:56da perspectiva do interesse nosso.
