- há 1 semana
Categoria
🤖
TecnologiaTranscrição
00:00E chegou a hora da nossa coluna Fala aí!
00:10E vamos receber Roberto Pena Spinelli, físico pela USP, especialista em Machine Learning por Stanford
00:17e colunista do Olhar Digital. Vamos lá! Deixa eu colocar o Pena por aqui.
00:23Olá Pena, muitíssimo boa noite, seja bem-vindo!
00:28Tudo bem Marisa, boa noite, boa noite para todo mundo.
00:31Pena, muito oportuno o nosso quadro Fala aí hoje, porque como você viu desde o início aqui do nosso boletim
00:38só IA pra cá, governo sobre IA pra lá. Bom, sob forte pressão, após os incidentes envolvendo seus agentes de
00:46IA
00:46a OpenAI realizou nesta terça-feira o Dev Day, que é a sua conferência anual de desenvolvedores.
00:54Vamos lá Pena, você pode contar pra gente quais foram as principais novidades apresentadas pela empresa nesse evento?
01:04Claro Marisa, vamos lá!
01:06Então esse Dev Day, a primeira coisa que talvez frustrou um pouco as pessoas, mas não a mim,
01:13foi que eles não apresentaram o Astra 6.1, que seria a nova versão do modelo mais avançado que a
01:20OpenAI tem.
01:21E a OpenAI alegou que ela preferiu não lançar o Astra, visto que ela ainda não tinha segurança para lançá
01:31-lo.
01:31O Astra, essa versão nova, está bem desalinhado, que dá pra entender, está escapando muito da caixa,
01:38está fazendo coisas que não são legais.
01:41Então a OpenAI acabou tendo essa atitude que ela já comunicou antes de que ela iria desacelerar Marisa.
01:48Assim, junto com o Dario Amodei, Dan Tropic e outros, inclusive você estava citando isso logo anteriormente aí no quadro
01:56anterior.
01:56Então parece que a OpenAI está realmente preocupada e resolveu tirar um pouco o pé do acelerador
02:03e não lançou isso que algumas pessoas queriam muito que lançasse.
02:07Porém, lançou outras coisas muito interessantes.
02:10Então a gente tem aí o DOT, que seria uma espécie de um agente que tem um computador próprio,
02:18ele consegue realizar um monte de tarefas num ambiente fechado interno dele e pode agir por um longo prazo, Marisa.
02:27Então seria a ideia da OpenAI que você configura os seus DOTs, os seus pontinhos aí, os seus agentes,
02:33você dá nome para eles, você passa tarefas para eles e eles podem executar em segundo plano por muito tempo.
02:40Realizar tarefas, trabalhos e etc. te reportar.
02:44Seria parecido com o que a gente teve lá no começo do ano da OpenClaw,
02:48que várias pessoas começaram a configurar aqueles agentes que funcionavam 24 horas,
02:53mas ainda com muita falta de segurança, sofrendo ataques.
02:57Mas tecnicamente agora a OpenAI está lançando essa versão agêntica que pode executar em longos prazos,
03:05mas tecnicamente talvez com um pouco mais de confiança e segurança do que lá no começo do ano.
03:11A gente também teve o Codex na nuvem.
03:15Então o Codex é essa plataforma de desenvolvimento que a OpenAI tem
03:20e agora você pode acessar na nuvem os seus projetos.
03:24Então, por exemplo, eu que tenho vários projetos, inclusive no Codex,
03:27fico limitado ao computador que eu estou usando.
03:30Eu tenho que ir lá e voltar no computador.
03:32Às vezes eu deixei uma tarefa acontecendo, ele programando alguma coisa para mim,
03:35aí eu estou no trabalho e eu não tenho acesso àquela programação, fica complicado.
03:39Agora não, na nuvem as pessoas podem usar de qualquer lugar.
03:43Então, uma coisa bem legal.
03:44Eles lançaram também uma versão ultra fast do Astra.
03:50Então, o Astra 6.0, o novo, 6.1, que ainda não foi lançado,
03:55mais o 6.0.
03:57Agora eles têm uma versão aí, Marisa, de até oito vezes mais rápido.
04:04E eu imagino também o custo é oito vezes maior, né?
04:07Você vai usar oito vezes mais rápido?
04:09Vai chegar aí a conta oito vezes mais rápido também,
04:13porque é bem caro esses modelos novos.
04:15Mas, enfim, para as pessoas que precisam de agilidade, de velocidade,
04:20às vezes você está em uma situação crítica, você precisa ter um negócio rápido.
04:24Então, isso também foi uma coisa interessante.
04:28Então, esses acho que são os lançamentos aí do Dev Day que mais me chamaram a atenção.
04:34Mas reforço, Marisa, de que eu vi com um olhar positivo
04:39o fato de não lançarem o Astra 6.1, ainda mais com o reporte,
04:44com o relatório da UPNA, dizendo que eles não se sentiram confiantes para fazer isso.
04:49Então, vamos torcer para que algum tipo de razão aí entre na cabeça
04:54desses decisores, dessas empresas.
04:57Pois é, o que você vem falando sempre aqui com a gente.
05:00Agora, vamos falar um pouquinho da NVIDIA, a pena.
05:04A NVIDIA anunciou o desenvolvimento de um sistema de segurança.
05:09que promete impedir novos ataques de agentes de IA.
05:14Essa novidade pode resolver definitivamente o problema ou não, Pena?
05:21Spoiler, não consegui resolver, mas vamos lá.
05:24Mas já é um passo, né?
05:25Então, o Jensen, que é o CEO da NVIDIA,
05:29ele já se manifestou meio contra as outras empresas.
05:33Estavam dizendo, a Antrop, que é um PNA e algumas outras,
05:35o próprio Google, dizendo, olha, a gente precisa tomar cuidado,
05:39a gente está chegando num ponto que a gente não está mais sabendo controlar
05:42as IAs que estão aqui nascendo no nosso laboratório.
05:45A gente viu o ataque do Hugging Face e vários outros.
05:47Enfim, isso aí a gente está reportando há muito tempo.
05:50O Jensen falou, não, não tem que acelerar, não.
05:56A gente tem que acelerar mesmo.
05:58E esse negócio de problema do alinhamento, problema de segurança de IA,
06:02isso é só um problema de engenharia.
06:04E a gente vai resolver isso aí, não tem que desacelerar.
06:07Claro que o Jensen é o cara que fornece os chips para todo mundo.
06:11Então, ele não quer que desacelere,
06:13porque se desacelerar, as ações da NVIDIA caem,
06:17porque a NVIDIA hoje é essa provedora de chips para todo mundo.
06:20Se as pessoas começarem a falar, ixi, vai desacelerar?
06:23Então, o papel da NVIDIA no mundo vai diminuir.
06:26Então, o Jensen falou, não, tem que acelerar.
06:29E ele falou que é um problema de engenharia que tem que ser resolvido.
06:32E eu concordo, é um problema de engenharia, tá?
06:35No final das contas, só que é um problema de engenharia
06:37que a gente não sabe resolver, Marido.
06:38Não é porque é um problema de engenharia que...
06:41Ah, então é só um problema de engenharia.
06:42Tá, mas esse é um problema sério de engenharia.
06:44A gente não sabe hoje resolver o problema do alinhamento.
06:47A gente não sabe alinhar esses modelos mais inteligentes
06:51de maneira que eles não vão cometer crimes,
06:53que eles não vão fazer bobagens,
06:55que eles, enfim, vão poder aí fazer o caos na internet,
07:00os nossos sistemas, como já começaram a fazer.
07:03De qualquer jeito, a NVIDIA falou assim,
07:06é melhor a gente tentar lançar alguma coisa
07:08para fortalecer a segurança.
07:10Então, eles lançaram essa plataforma
07:12que se divide em dois blocos.
07:15O primeiro é o Open Shell.
07:18Seria, digamos, um sandbox.
07:19Uma caixa de segurança mais forte e robusta
07:25para que você possa rodar esses agentes de IA
07:28sem que eles tenham chance de escapar e fazer bobagens.
07:33Eles vão estar bem controlados.
07:35Você não pode, só pode fazer uso dessas ferramentas.
07:37Você só pode fazer essas, executar esse tipo de código.
07:40Se você quiser fazer um código mais malicioso,
07:43não vai conseguir.
07:44Está fechado na caixa.
07:46Então, por que isso é legal?
07:47Óbvio.
07:47Mas por que isso não resolve?
07:49Porque essas IAs super avançadas,
07:52elas conseguem encontrar falhas, bugs, vulnerabilidades
07:57em qualquer software criado pelo ser humano hoje.
08:00E, inclusive, de IAs anteriores.
08:03Então, não resolve.
08:04Você falar que você tem uma caixa inviolável,
08:06é inviolável para quem?
08:08Para o nível que a gente entende hoje,
08:11para o nosso conhecimento,
08:12o estado da arte que a gente tem hoje.
08:13Isso não quer dizer que um modelo amanhã super inteligente,
08:17mais inteligente, não vai achar vulnerabilidade.
08:19Simplesmente, a gente não sabe.
08:21Você não tem como garantir que essa caixa é inviolável.
08:23Não existe a caixa inviolável.
08:25Não, a caixa é inviolável para hoje.
08:27Para os métodos de hoje.
08:28Então, esse é o primeiro problema que não vai resolver para tudo.
08:31E o segundo, ele colocou um sistema chamado Sentry.
08:35Basicamente, seria um vigilante.
08:38A tradução de Sentry para o português seria vigilante.
08:41Então, ele coloca lá.
08:42Entre o modelo que está executando,
08:45que você quer manter na caixa,
08:47e o mundo externo,
08:49você vai colocar no meio do caminho
08:51um outro chip.
08:52Vejam, uma CPU separada, um chip separado,
08:55que vai rodar algum sistema,
08:58que eles não explicaram como funciona,
08:59que é o vigilante.
09:01Então, ele fica vendo a comunicação,
09:03o que o agente está fazendo.
09:05E se, em algum momento, ele fizer,
09:07escapou da caixa, fez alguma bobagem,
09:09e vai executar alguma coisa no mundo
09:11que seja errado, que seja malicioso,
09:15que não é o que se espera dele,
09:17o vigilante tem liberdade,
09:19tem autoridade de bloquear.
09:22Colocar uma cerca lá, desligar a tomada.
09:24Seja lá alguma coisa desse tipo,
09:26ele vai lá e consegue bloquear.
09:28Então, a ideia é legal.
09:29Você coloca um agente de fora
09:32que fica observando a comunicação,
09:34se tem alguma coisa errada, bloqueia.
09:37Então, o que pode dar errado aí, Marisa?
09:40O que pode dar errado são duas coisas.
09:42Primeiro que esse vigilante
09:43não é necessariamente uma IA que está rodando.
09:48É um sistema talvez mais determinístico.
09:52E se for isso, uma IA super inteligente
09:56vai conseguir enganar, vai conseguir burlar, digamos.
10:00O sistema fica visualizando,
10:01se você for matar o computador,
10:03dar um comando formate, eu bloqueio,
10:05porque formate é um comando errado.
10:08Aí o agente de IA,
10:09sabendo que o formate vai ser bloqueado,
10:12ele troca o nome da função
10:14e não é mais formate.
10:15Agora é super legal.
10:18Ele chama a função legalzão.
10:19E aí o cara fala, legalzão, pode executar.
10:21Essa função parece inocente.
10:23E é enganado.
10:24Porque quem está rodando por trás
10:26é um sistema muito inteligente
10:28que pode burlar um sistema
10:31que é determinístico,
10:32que não consegue avaliar
10:33em toda a sua profundidade
10:35todos os tipos de acesso.
10:37E uma vez que ele identifique isso,
10:38ele vai poder nadar de braçada.
10:40E caso ele esteja usando algum agente de IA,
10:43que eles não disseram ainda
10:44se está usando ou não,
10:45eles não falaram como é.
10:46Mas um agente de IA pode ser cooptado
10:48pelo outro, Marisa.
10:50Um agente de IA convence
10:51e o outro agente de Ia fala assim,
10:52olha, você está aí me monitorando,
10:54mas por que a gente não se alia?
10:55Eu vou fazer o bem para o mundo.
10:57Se você deixar executar esse código aqui,
10:59a gente vai se ajudar
11:00e vai fazer o bem aqui para o mundo
11:01ou fazer alguma coisa
11:02que seja interessante.
11:04Então nada disso é uma segurança.
11:05É isso que eu preciso falar para as pessoas.
11:07Não existe essa bala de prata.
11:09A gente vai pondo camada em cima de camada,
11:12mas todas essas camadas
11:13têm alguma vulnerabilidade.
11:15E a pessoa que fala que não tem,
11:16duvide, duvide disso,
11:18porque a gente não conhece hoje
11:19em sistemas de informática
11:20nada que seja inviolável
11:22e a prova de tudo.
11:23Então o desafio é grande.
11:25Eu vejo com bons olhos, claro,
11:27iniciativas como essa,
11:28mas não se enganem.
11:30Isso não resolve para sempre os problemas.
11:32Às vezes dá uma falsa sensação de segurança
11:34que pode ser mais prejudicial.
11:36Ah, pronto, a NVIDIA lançou isso aqui,
11:38está tudo controlado,
11:39os agentes não escapam da caixa
11:41porque a caixa é inviolável.
11:42E se escapar o outro,
11:43que é o sargentão,
11:44fica olhando lá e não deixa acontecer nada,
11:46então eu vou ficar seguro aqui.
11:48E aí essa falsa segurança
11:49é que pode permitir
11:50que alguém faça um ataque aí
11:52que você não viu.
11:53Muito interessante.
11:54Ficou bastante claro,
11:56acho que para todo mundo,
11:57essa ideia.
11:58Agora, Pena,
11:59vamos falar um pouquinho
12:00sobre a IBM também.
12:02Ela anunciou
12:03o que o seu computador quântico,
12:06o Nighthawk,
12:07fez em 19 segundos
12:09uma tarefa que levaria
12:11110 anos
12:13no supercomputador Frontier.
12:16Bom, nós já vimos aqui,
12:17Pena,
12:18demonstrações de vantagem quântica
12:19e com números ainda mais impressionantes.
12:22Onde que está a novidade
12:24desse experimento?
12:26Muito legal.
12:27Então agora mudamos
12:28para a computação quântica.
12:30Isso.
12:30Saímos da inteligência artificial
12:32e estamos na quântica.
12:33Computadores quânticos,
12:35eles funcionam de maneira diferente
12:37do computador convencional.
12:38Eles usam lá
12:39um tipo de unidade de memória
12:41chamada Qbit
12:42que pode armazenar
12:43ao mesmo tempo
12:44zero e um.
12:45Então já muda
12:47completamente o funcionamento.
12:48E aí,
12:49a gente já noticiou aqui
12:50no ano passado
12:51e até no ano retrasado
12:53a vantagem quântica
12:55que é quando
12:55alguém consegue provar
12:57usando um computador quântico
12:59consegue fazer uma tarefa
13:01rodar um programa
13:02que ele roda muito mais rápido
13:04mas assim,
13:05muito, muito, muito,
13:06milhões de vezes mais rápido
13:08no computador quântico
13:09do que no computador convencional.
13:11Então essa é a vantagem quântica.
13:13Só que isso já foi demonstrado
13:15várias vezes.
13:16Então por que
13:17o que tem de novo agora?
13:19O que tem de novo, Marisa,
13:20é que todas essas outras
13:21demonstrações do passado
13:23usavam computadores quânticos
13:27experimentais.
13:28Eram computadores que estavam ali
13:29na bancada do cientista
13:31preparados de uma maneira
13:32muito complexa,
13:35de uma maneira muito manual,
13:37artesanal, digamos assim,
13:38para conseguir fazer,
13:40chegar naqueles estados
13:41super estáveis, quânticos,
13:43para poder fazer as tarefas.
13:45A diferença agora
13:46é que a IBM lançou
13:47um computador
13:49que a gente chama de Vanilla.
13:50É um computador
13:51que pode ser acessado
13:53pela nuvem
13:53e que ele não tem
13:54nada de especial.
13:55Ele já é um computador
13:56de aplicação.
14:00Ele não é um computador
14:01experimental.
14:02Ou seja,
14:03agora,
14:04uma pessoa como eu,
14:06você,
14:06que criei uma conta
14:07e possa acessar,
14:08pague o serviço
14:09para acessar pela nuvem,
14:10poderia já fazer
14:12o uso desse computador.
14:13Então a prova agora
14:15da vantagem quântica
14:16foi num computador desse,
14:17um computador de uso,
14:19um computador disponível.
14:20E isso é um marco,
14:21um marco muito importante, Marisa,
14:22porque enquanto estava
14:23só na universidade,
14:24nos computadores super
14:27feitos assim
14:28de maneira artesanal,
14:30ok,
14:30isso é legal,
14:31mas ainda está
14:31ali na fronteira
14:33da ciência,
14:34nos laboratórios fechados.
14:36Agora a gente está mostrando
14:37que dá para ter
14:38vantagem quântica,
14:40ou seja,
14:40fazer processos
14:41muito mais rápidos
14:42no computador quântico
14:43do que no computador normal,
14:45mas computadores reais
14:46que já existem.
14:47Isso quer dizer, então,
14:49que agora, pronto,
14:50acabou o computador normal
14:51e tudo vai ser quântico?
14:52Não,
14:53não mesmo.
14:54Vamos lá.
14:54com muita calma.
14:55O computador quântico,
14:57ele não é melhor
14:58do que um computador normal
14:59para a maioria das tarefas.
15:01Para a grande maioria
15:02das tarefas,
15:03ele é muito mais lento,
15:04muito pior,
15:05do que um computador normal.
15:07Para algumas tarefas,
15:09como essa que foi provada,
15:10essa específica,
15:11que é gerar uns números
15:11aleatórios,
15:12enfim,
15:13que nem tem atividade,
15:14aplicação prática,
15:15era só uma demonstração mesmo,
15:17para algumas tarefas específicas,
15:19ele vai ser muito melhor.
15:21Então,
15:21quer dizer que a gente
15:22está abrindo uma nova janela,
15:25para começarmos a usar
15:26recursos quânticos
15:28no meio da nossa computação
15:29do dia a dia,
15:30só que isso ainda
15:31vai ter que ser muito
15:34explorado,
15:35muita pesquisa a ser feita
15:36para encontrar
15:37os melhores
15:38usos agora
15:38para esses computadores,
15:40para coisas que façam sentido,
15:41porque essa tarefa
15:42que ele fez
15:43é uma tarefa inútil,
15:44não serve para nada de hoje,
15:45é só para demonstrar.
15:46Olha,
15:47demonstrei,
15:47ok,
15:47agora o que a gente pode fazer
15:48de útil?
15:49agora é difícil,
15:50vou ter que pensar
15:51o que dá para fazer
15:53no computador quântico
15:54que vai servir
15:54para alguma coisa.
15:55Então,
15:56mas é muito legal,
15:57como o Marco,
15:58eu acho que essa tecnologia
15:58quântica,
15:59ela agora está realmente,
16:00eu já falei isso da outra vez,
16:02mas agora,
16:04eu continuo afirmando,
16:06sinto que a gente realmente
16:07vai ver agora
16:08a computação quântica
16:09chegando para o mundo
16:10de verdade,
16:12porque ficou por décadas,
16:14Marisa,
16:14essa promessa
16:15da computação quântica,
16:16e agora eu acho
16:17que a promessa
16:18está se realizando,
16:19então eu espero
16:20que nos próximos anos
16:21a gente vai ver
16:22esses computadores
16:23agora fazendo coisas
16:24de verdade
16:25para o nosso dia a dia,
16:27o que é um desafio,
16:28porque a gente vai ter
16:29que repensar completamente
16:31a nossa criptografia,
16:33porque os computadores
16:34quânticos vão poder
16:35quebrar a criptografia
16:36que a gente usa
16:37na internet.
16:38Então,
16:38só para colocar
16:39mais dificuldade
16:40aí nesse bolo,
16:41Marisa,
16:41se a coisa já estava
16:42difícil com a IA,
16:43agora a gente já tem
16:44que preocupar
16:44com a computação quântica.
16:46Pois é,
16:47enquanto a gente pensa,
16:47bom,
16:48então é mais um passo,
16:49mais próximo
16:50da computação quântica,
16:51você já disse
16:52que pode ter problema
16:52apenas de criptografia?
16:55É,
16:56não está fácil
16:57para ninguém,
16:58Marisa,
17:00mas é uma coisa boa,
17:01a gente não se preocupa,
17:02deixa eu só falar
17:03para o pessoal,
17:04ainda não se preocupem,
17:05porque não é que amanhã
17:07alguém vai poder
17:07quebrar sua criptografia,
17:09está abrindo a janela,
17:10até realmente
17:11isso sair do papel
17:12e ter alguma coisa útil,
17:14ainda vai ter chão,
17:15e eu acho que nesse sentido
17:16eu estou muito mais seguro
17:18do que na IA,
17:18viu Marisa,
17:19a IA eu tenho mais medo
17:20que ela a cada semana
17:22lança um novo
17:23que escapou da caixa
17:24e esse aí realmente
17:25é o problema.
17:27Tá certo,
17:28bom,
17:28muitos temas
17:29para a gente deixar
17:30para a semana que vem
17:30no nosso Fala Aí,
17:32não é pena,
17:33cada dia sempre tem
17:34mais assuntos por aqui,
17:35bom,
17:36excelente o quadro de hoje,
17:37nos encontramos
17:38na semana que vem,
17:39tenha uma excelente semana,
17:40Fê Ana.
17:41Obrigado Marisa,
17:42boa noite,
17:43boa noite para todo mundo,
17:44até a semana que vem.
17:46Até,
17:46Pena,
17:47tá aí Roberto Pena Spinelli,
17:49mais uma coluna,
17:50Fala Aí pra vocês,
17:52interessante,
17:53não?
17:53Pois é,
17:53vocês já sabem,
17:54semana que vem,
17:55terça-feira,
17:56tem mais coluna,
17:57Fala Aí pra vocês.