- hace 5 semanas
Debate en nuestros estudios por lo que pasó en un colegio, en donde alumnos difundieron fotos hechas con IA de otras compañeras y lo publicaron en un sitio pornográfico.
Categoría
📺
TVTranscripción
00:00Último momento.
00:06Escándalo en un colegio.
00:08Escuche en este caso, por favor, subí el volumen.
00:11Terrible, Ferula.
00:12Polémica por las fotos creadas con inteligencia artificial.
00:16Crearon falsos desnudos de sus compañeras.
00:27Bueno, y este caso está conmoviendo a toda la sociedad, porque claro, para que quede claro esto que vamos a
00:34contar hoy acá.
00:36Lo único real que existía en las fotos eran las caras de esas compañeras o de esas alumnas del colegio.
00:43El cuerpo estaba, digamos, hecho con inteligencia artificial o agarrada de otra foto con inteligencia artificial.
00:51No es que expusieron desnudos reales de las compañeras, sino ya sería otro delito y sería mucho más grave que
00:59lo que vamos a contar ahora.
01:01¿No es así, Meli?
01:02Son cuatro chicos de colegio secundario de entre 15 y 16 años que se pusieron de acuerdo para, como decís
01:09vos, editar estas fotos y crearlas con inteligencia artificial.
01:12Pero lo serio es que las vendieron.
01:15Vendieron esas fotos, cual si fueran reales, con datos personales de las personas, de las chicas afectadas, sus compañeras de
01:22clases.
01:22Datos reales.
01:22Sí, reales.
01:23Reales.
01:24Y las vendieron en sitios pornográficos.
01:26Otro aspecto muy grave es cómo termina desencadenándose todo esto.
01:31Que las chicas, obviamente afectadas por todo esto, no se enteraron enseguida, se enteraron por el rebote.
01:36Sí, a la semana, vamos a decir.
01:38Es decir, llaman los papás, las mamás de estas chicas al colegio.
01:42No, sí, bueno, nosotros en realidad les queremos contar, papis y mamis, que sí sabíamos de esto, pero bueno, como
01:49son solamente cuatro chicos, estamos tratando de ver cómo lo resumen.
01:52No hicieron nada.
01:53No.
01:53En los resumos no hicieron nada.
01:55A mí me cuesta entender, yo no estoy...
01:57El colegio.
01:58No soy docente, no fui capacitado para esto, pero usando, digamos, la lógica y criterio, digamos...
02:06Sentido común.
02:06Un poquito de sentido común.
02:08Claro.
02:09Es un escándalo.
02:10Vos como colegio, ¿qué intentás tapar esto?
02:13Llamás a los padres y decís, mirá, estos cuatro alumnos son plausibles de ser expulsados, llamás a los papás de
02:19las nenas, te hacés cargo del tema, ¿por qué querrías ocultarlo?
02:22Perdón, yo tengo 22 datos.
02:24A ver.
02:24A portar a lo que vos decías, Meli, muy importante estos dos datos.
02:27Principalmente hace un mes que la escuela sabía de esto.
02:31Y el segundo dato, ¿qué hizo?
02:33Lo escribieron en el cuaderno de comunicaciones.
02:35Sin informarle a la madre.
02:37Es más, y otro dato más, una de las madres sabía de este hecho hace un mes, o sea, confirma
02:43la justicia que hace un mes la escuela sabía de este episodio.
02:46Por eso aún es más grave la inacción del colegio.
02:49Chicos, quiero agregar una cosa.
02:50El colegio tiene la obligación de activar un protocolo de manera inmediata, de tomar medidas de resguardo para cuidar, en
02:56este caso, a las víctimas.
02:57Es decir, que esto que hicieron ahora de hacer que los chicos, cuatro responsables, tomen clases virtuales, debieron haberlo hecho
03:03hace un mes, cuando sabían que esto pasaba.
03:05Y además, dar intervención a las autoridades.
03:07No hicieron ninguna de las tres cosas.
03:09No hicieron nada.
03:09Gaby.
03:09Para mí es expulsión inmediata y que me gustaría, me encantaría hablar con alguien y me diga por qué no
03:14se expulsan a los chicos.
03:16¿Por qué no?
03:17No le renovaron la matrícula.
03:18Para el año que viene, para el año que viene, claro.
03:19Pero van a otra escuela, es lo mismo.
03:21¿Sabes qué?
03:21¿Perdiste el año por degenerado?
03:23Porque esos chicos tienen...
03:24No, y además, perdón.
03:25Por más chicos que sean, ¿eh?
03:26No importa lo que sean.
03:27Perdón, tienen una responsabilidad.
03:28Yo les digo algo ahora con la ley, el cambio de la ley de imputabilidad.
03:33Para mí cometieron un delito.
03:34¿Qué es lo que usaron?
03:35La imagen de una chica.
03:37Le están cambiando el cuerpo.
03:39La ponen en un sitio pornográfico.
03:40Le puede arruinar la vida a una persona.
03:42Hay un delito, pero sin lugar a dudas.
03:44Y te lo presento, se llama la ley Olimpia.
03:46Y Olimpia es un nombre propio de una chica que ella había accedido...
03:52Yo les cuento porque es un caso de una chica mexicana.
03:55Ella había accedido a sacarse fotos en la intimidad con su novio, incluso.
03:59Ese novio, despechado porque se separan, vende sus fotos a un sitio pornográfico.
04:06Lo mismo, pero eran fotos reales, no eran montadas digitalmente.
04:09Eran fotos reales.
04:10Peor es el caso de que estás con...
04:12Es peor, porque ella cedió esas fotos en la intimidad.
04:15Ella vivía en un pueblo chiquitito de México y ella pasó a ser Olimpia, la P.U.T.A. del
04:19pueblo.
04:21Ella estuvo al borde del suicidio, si no fuera porque su mamá la contuvo y le dijo,
04:25mirá, Olimpia, todos los papás, todas las mamás tenemos intimidad.
04:29No te preocupes, solo que en tu caso se supo.
04:31En tu caso se le dio publicidad.
04:32Es un horror lo que te pasó.
04:33La acogió a la chica, la ayudó y por suerte ya pudo no solamente sobreponerse, sino que darle nombre propio
04:39a la ley.
04:40Pero hay otro caso de una policía mujer en nuestro país que se quitó la vida por la misma razón.
04:45Y esta ley es muy nueva, es del año pasado, es una ley que se propulgó hace muy poquito,
04:48que entiende que por más que esto sea en un entorno digital o virtual, tiene efecto en la vida real
04:54de las personas.
04:55Esto se llama violencia contra las mujeres, violencia sexual contra las mujeres,
05:00pero en este caso en un contexto digital, pero tiene un efecto real y es muy grave.
05:04Está conectada con nosotros Claudia Guardia, que es abogada especialista en inteligencia artificial
05:11y seguramente nos va a poder dar información acerca de qué consecuencias jurídicas tiene este accionar de estos alumnos
05:19que hicieron esto contra, de alguna manera, las compañeras del colegio.
05:26Bienvenida a Imbatibles por la pantalla de Crónica.
05:29¿Qué tal? Buenas tardes.
05:30Bueno, qué tema tan complejo y cuántos casos se vieron en el último tiempo.
05:36Algunos tomaron relevancia y otros quedaron ocultos, pero bueno, tenemos bastantes antecedentes.
05:42Este caso es bastante complejo por varias razones.
05:47A ver.
05:48Por un lado, la edad de los que producen el delito.
05:52Por otro lado, el régimen penal juvenil que ya está en vigencia a partir del 5 de septiembre.
05:59¿Cuándo fueron realizados los hechos?
06:01Hay que tener un montón de circunstancias, con lo cual no tenemos acceso directo al expediente,
06:08sino que podemos guiarnos por los dichos de los padres, de la madre en este caso,
06:13de las madres y de los menores sobre los hechos ocurridos.
06:16Pero lo que tenemos que tener en claro es que si bien es un delito que se produce dentro del
06:22ámbito digital,
06:23la incidencia o el impacto que tiene es hacia la vida real.
06:30Está bien, pero doctora Claudia, perdón, te pregunto concretamente, ¿cuál es el delito?
06:36¿Es un delito? Porque vos estás usando la imagen, la cara de una persona para decir que está desnuda,
06:42para hacer, no sé, fotos sexuales.
06:45Hay un delito acá.
06:45Pero sin lugar a duda, quiero entender cuál es el delito y qué les espera a estos pibes,
06:51porque si yo soy el papá y se lo hacen a mi hija, te demando, pero sin lugar a duda,
06:57lo primero que hago es te mando carta de documento y te la hago difícil.
07:00¿Es violencia sexual?
07:01¿Se llama violencia sexual?
07:02¿Le podés generar un trauma a una niña que no se metió con nadie?
07:06Pero se lo generás.
07:07No me muero si le pasa a mi hija.
07:08No que se lo podés generar, se lo generás.
07:10A 50 niños, perdón, ¿eh?
07:11Porque además...
07:12No cuentan las chicas.
07:13Y el bullying.
07:13Afectadas.
07:13Cuenta.
07:14Ellas no tienen el mismo espacio equiparado a la velocidad con la que corrieron esas fotos
07:19para decir, no, miren, les quiero decir que esa no soy yo.
07:22Exacto.
07:22Porque esas son hechas.
07:24Claro.
07:24Para ellas, para toda la comunidad educativa y para su futuro.
07:28Pero son...
07:29Pero eso sí que es...
07:29Lo aclaro para no generar confusión.
07:31Pero está bien, pero está perfecto que vos lo aclares desde ese punto de vista.
07:35Pero tomemos una perspectiva real en la vida real de las personas.
07:39Si el día de mañana aparece una foto mía, totalmente desnuda, en una situación íntima,
07:44sea real o sea montada o editada, yo me voy a sentir igualmente afectada.
07:49No hay una diferencia, no hay ni siquiera una sutileza.
07:52Porque soy yo.
07:53Es lo mismo.
07:54Es lo mismo.
07:55A ver, se lo voy a decir una de esto.
07:56¿Cuál es el delito y qué puede pasar con estos chicos?
07:59Yo estoy totalmente de acuerdo porque el efecto es exactamente el mismo.
08:03Aunque la imagen no represente exactamente al cuerpo, porque esto es lo que sucede muchas veces,
08:08donde se generan imágenes con IA, el efecto que produce hacia la víctima es irreparable.
08:14Y es exactamente igual.
08:15Porque sumado a eso, estas imágenes se difundieron por sitios pornográficos y lamentablemente no pueden detenerse.
08:25¿Qué sucede?
08:25Acá tenemos el artículo 128 del Código Penal.
08:28Y en el 128 del Código Penal podría aplicarse porque se produce, se financia y se distribuye por cualquier medio.
08:37En este caso tendrían esa opción por el 128 y por otro lado podrían aplicarse acciones civiles de daños,
08:46de reparación de daños.
08:47Y en este caso la reparación de daños serían cuantías de dinero y tendrían que afrontarlo los padres.
08:54Totalmente claro, igual el bullying a lo que van a estar estas chicas expuestas.
09:03Y si hay alguien que conoce de bullying soy yo, porque bueno, por mi trabajo he tenido bullying toda la
09:08vida.
09:08Ah, pensé que hacías bullying vos que lo hacías.
09:10No, no, si hay alguien que conoce bullying soy yo, pero nunca me importó.
09:12Que te hicieron a vos en toda la vida, porque claro, en el colegio.
09:15Porque bailabas y eso.
09:16No, no, no solamente porque bailaba, digo porque te sexualizaba.
09:19Por diosa, por diosa.
09:22Con él, por alguno, porque trabajaba de modelo y un poco mostraba.
09:26Siendo adolescente, siendo colegio.
09:27No de la forma que estaban mostrando las chicas, pero sí por ahí se veían partes del cuerpo.
09:32Entonces entiendo y sé lo que es por ahí que le pasen estas cosas a las chicas.
09:38A mí no me importaba, porque a mí, o sea que no me gustaba, porque es una decisión.
09:43Estas chicas no lo decidieron.
09:44Entonces me parece que eso no se paga con toda la plata del mundo.
09:49No, tan cual.
09:50Yo los embargaría de por vida.
09:51No, y además...
09:52Mano dura, Gaby.
09:53Mano dura.
09:54Perdón.
09:54Eso lo gritamos, Rulo.
09:55Mano dura.
09:57Basta de esto.
09:58Mano dura.
09:58Coincido.
09:59No se termina.
09:59Cristian, pará.
10:00Esto es cuando ya se cometió el delito.
10:02Claudia, te pregunto.
10:04¿Es evitable de alguna manera esto antes que suceda?
10:08La única forma de evitarlo es a través de la educación.
10:11Y acá hay un punto importante, que la escuela, de cierta manera, no sé si se podría eximir de responsabilidad.
10:19Porque esto, si las imágenes fueron producidas y difundidas dentro de la escuela, y la escuela sabía que esto estaba
10:26sucediendo y no comunicó a los padres...
10:28Sí a todo, Claudia.
10:30Sí a todo, con lo cual es responsable la escuela.
10:32A ver, yo para mí, la escuela, les digo la verdad, la escuela es responsable de no agarrar a los
10:37cuatro alumnos apenas enteró y expulsarlos.
10:40No puede expulsarlos.
10:40De esa manera es decir, los expulse, pero para...
10:42No los puede expulsar, Rulo, ese es el problema.
10:43Bueno, está bien, no puede porque la ley, no sé, ahora no permite expulsar, que es una ridiculez...
10:48Bueno, pero no puedo.
10:48No lo escucho y todavía no lo puedo creer.
10:50No se puede expulsar.
10:52Pero perdón, lo que se puede expulsar, perdón, sí puede, en lugar de expulsarlos, sí puede separarlos de la comunidad
10:59educativa.
10:59¿Qué hace?
11:00Marcando un límite y los pone a estudiar desde sus casas.
11:03No, y además son las...
11:03No puede, claro.
11:04Vos podés implementar un protocolo especial.
11:06Pará, a ver, dice la doctora Claudia, perdón.
11:09En principio no debió encubrirlos, porque debió comunicarle a los padres en forma urgente lo que estaban estudiando.
11:16La excusa que esgrimieron es que ellos no tienen acceso a conocimientos de lo que sucede en el mundo digital
11:22o en el mundo de las redes.
11:24Bueno, esa no es excusa para no informar algo tan complejo, tan delicado como lo que sucedió a los padres.
11:30No, no, quería solamente una pregunta para la doctora para ver si esto puede llegar a ser jurisprudencia y demás.
11:36Sé que es un caso distinto.
11:37El caso Julia Mengolini con el tema de la inteligencia artificial y la presentación en la justicia.
11:42Espera, espera, Lore, danos dos segundos, acordate esa pregunta.
11:45Por eso quiero preguntárselo a la doctora, pero vayamos al móvil.
11:47Doctora, usted también aguárdenos. Gracias, Lore, Sorrito. Estás con un papá.
11:52Hola, Meli, buenas tardes. Sí, estamos acá en la puerta del colegio donde dos alumnos de 14 y otros dos
11:58de 15 realizaron estas fotos con IA.
12:01Y estamos con un papá, con Gastón, que es padre de un alumno del colegio.
12:06Bueno, Gastón, de dos, gracias por hablar con nosotros y contame un poco cómo está la situación.
12:11Bueno, los chicos están tremendamente apuntados porque esto afectó a toda la comunidad educativa.
12:17Esto no es algo que afectó solamente a las chicas que, por supuesto, son las más afectadas y las que
12:24necesitan mayor acompañamiento.
12:25Pero también los chicos que las conocen, los compañeros, los que se conocen de todas las actividades que organiza el
12:33colegio, están afectados ellos también.
12:35Les pegó mal, les pegó mal. Mi hijo, por ejemplo, que tiene 13 años, les pegó mal.
12:40Ayer estaba congojado porque se entera que una de las chicas afectadas era la hermana de una compañera.
12:47Claro, obvio, las conoce. Le da bronca. Si alguno era novio de alguna, por ejemplo, vamos a ir más allá.
12:55Está enamorado de alguna o es el novio, la invita y se la quiere levantar y de golpe queda escrachada
13:01por todos lados.
13:02A mí me da una bronca, yo que soy padre, yo no sé cómo están, los padres de las chicas
13:06deben estar que trinan.
13:07Destruidos.
13:07Escúchame, ¿vos a qué te dedicás? Tengo entendido, ¿vos sabés algo de informática o estás en el rubro este?
13:14Yo soy licenciado en informática, sí.
13:16Perfecto. Y yo te pregunto, porque la inteligencia artificial está al alcance de todos.
13:20A mí no me paran de llegar aplicaciones que aprieto un botón y en tres minutos te hago un video
13:24de Melina bailando con cara de, no sé.
13:27De pájaro.
13:28De pájaro. Es algo increíble lo que está pasando con la inteligencia artificial.
13:31Entonces lo que digo, yo entiendo que la escuela no es responsable tal vez, porque los pibes tienen el celular,
13:38pero digo, los padres de los chicos son responsables, estos mismos chicos son responsables de alguna manera.
13:43¿Qué opinás vos como padre y como licenciado en informática?
13:48Lo que pasa es que nosotros somos responsables del mundo en el que viven los chicos.
13:51A ver, si vamos a entender lo siguiente, yo tengo acceso a un helicóptero, pero eso no me habilita a
14:01ir con un helicóptero y tirarlo arriba de la casa de un coñerito que me hizo un gol jugando a
14:08la pelota.
14:08¿Se entiende? La tecnología está, está el helicóptero.
14:11Ahora, yo no la pude usar para una casa porque no me gustó que me gambeteó como arquero y me
14:17hizo un gol.
14:18¿Se entiende? Es una exageración lo que digo, pero lo digital no nos hace ver el daño.
14:22Lo digital lo que tiene es que el daño se genera, el daño psicológico, todo el daño emocional, pero no
14:28se visualiza de la misma manera que el daño material.
14:31O cuando se ve ya es tarde.
14:32Y que el daño material yo veo una casa que se está prendiendo fuego.
14:34O cuando se ve ya es tarde.
14:35O cuando se ve ya es tarde.
14:36Ahora, yo te quiero preguntar algo.
14:38Vos como, además conocés mucho sobre esto, por lo que estás contando, digo, ¿qué te pasó a vos cuando te
14:43diste cuenta o te enteraste que el colegio se había guardado la información durante un mes?
14:46¿Qué te pasa con la escuela y con la responsabilidad de la escuela?
14:51A mí me genera indignación que haya sucedido esto, que chicos de 15 años hayan podido hacer esto.
14:59Hay culpables que también son mayores.
15:02Hay culpables que son empresas que ponen a disposición de los chicos.
15:05Estos son organizaciones criminales, entendámoslo.
15:08Porque aquellos que generan estos modelos de inteligencia artificial modificados para que se pueda hacer esto,
15:16que también...
15:16Lo que pasa es que llegar hasta ellos es lo más difícil.
15:19Hay unas responsabilidades que están más cercanas, ¿no?
15:23Es que no es tan difícil, porque la misma inteligencia artificial regulada, digamos, las oficiales te pueden guiar a ir
15:31a la inteligencia artificial no regulada.
15:33O sea, el camino no es tan difícil.
15:35Lo que es difícil es pensar que se hayan organizado de esta manera y a lo que ha llegado a
15:40lo que escalaron.
15:41Papá, vos que estuviste...
15:41Ahí tenemos que entender que...
15:43Sí, vos que estuviste ahí.
15:45¿Por qué no fueron expulsados?
15:47No se puede, ok.
15:49¿Por qué no fueron desvinculados automáticamente?
15:51¿Qué excusa les da el colegio?
15:56El colegio venía tratando la temática de la convivencia digital.
16:00Toda esta temática de manera...
16:01Semana a semana se veía que algo estaba pasando, que se estaba tratando mucho el tema con mucha profundidad.
16:08Evidentemente estaban tratando de solucionarlo por algún otro medio, claro.
16:13Pero se venía tratando.
16:14Yo venía recibiendo notificaciones y estaban hablando del tema convivencia digital.
16:17Lo que pasa es que coincidía que justo habían vuelto chicos de Bariloche.
16:21Entonces, bueno, como que hay un caldo de cultivo a veces también en ciertos comportamientos.
16:26Pero vos como papá te parece lógico, por más que uno le esté explicando,
16:31alguien está haciendo algo que está, no mal, terriblemente mal.
16:35Y por más chico que sea, tiene que estar desvinculado porque evidentemente su cabeza no está preparada para ese tipo
16:40de tecnología.
16:42No sé cómo lo ves vos.
16:43Desde mi punto de vista, alguien que llega a ese uso de cualquier herramienta tecnológica
16:50en perjuicio de una compañera que la tenés sentada al lado, que ha grabado por el vincuero, como se puede
16:55decir.
16:55Claro.
16:56Tenés que estar con tratamiento psiquiátrico.
16:58Urgente.
16:59Tenés que ayudarlo inmediatamente para insertarlo a la sociedad, porque no podés estar en la sociedad con ese comportamiento.
17:06Ahora, papá, con todas las tecnologías y las nuevas generaciones que vienen,
17:11¿cómo se hace de una manera u otra para regular?
17:14Ese es el debate del momento.
17:15Bueno, primero, lo vengo planteando desde el año 2001 yo, así que no soy nuevo en esto.
17:24Fue parte de mi trabajo de investigación final cuando tuve la licenciatura en informática
17:28del tema de la regulación de las tecnologías para que no generen daño.
17:34Lamentablemente hay mucho poderío económico que hace que con esto sana plata,
17:38si los chicos te van vendiendo el contenido.
17:40Claro.
17:42No, lo que quiero decir es que esto lamentablemente tiene o agrupa distintas problemáticas.
17:52Por un lado el aspecto de lo que impacta en la vida de un adolescente una situación como este,
17:59porque es el inicio a, por ahí, una vida que ellos todavía no empezaron, que es la sexualidad.
18:04Y es la propia aceptación del frente al otro.
18:08Con chicas que por ahí nunca antes estuvieron en esta situación.
18:11No por ahí, nunca antes estuvieron en esta situación.
18:13Son vírgenes.
18:14Claro.
18:15Y estos compañeros, por hacerse los graciosos o para malinterpretar lo que es una gracia,
18:21les las trauman para siempre, las afectan para siempre.
18:24Disculpáselo, yo quiero dejar, realmente lo digo, ¿eh?
18:27Sí.
18:28Quiero dejar de bajarle el precio a todo lo que hace la gente.
18:33¿Tenés 14 años?
18:34¿15?
18:3515.
18:35¿Te haces el gracioso y usás la imagen de 50 chicas, le cambiás la cara con inteligencia,
18:40y se la vendés a un sitio porno, flaco?
18:42Sos un delincuente juvenil.
18:46¿Por qué?
18:47Porque a mí, si me venís y me contás esa historia, no me causa gracia y no lo hago.
18:52Y en todos los colegios de Argentina no lo hacen, hermano.
18:55No, sos un delincuente, hoy haces esto, mañana te metés en mi cuenta y me robás la plata,
19:00pasado me falsificás los papeles y pedís un crédito.
19:03A mí no me vengan con esta borde.
19:05Estos pibes, escuchame.
19:06No, no, me parece que es demasiado.
19:07Perdón, dejame decir mi opinión.
19:10Sí, sí, pero me parece que es demasiado.
19:12A estos pibes, yo le hago una demanda civil y lo que le corresponda penal,
19:17ponele que no les pase nada penalmente, civil le hago una demanda y que les cueste plata.
19:22Porque cuando hablábamos acá de que llamaban para hacer, que hay bomba en la escuela,
19:28el falso llamado de bomba, nos indignábamos porque la policía, porque ese día no había clases.
19:34No, pero está bien.
19:35Porque la policía se...
19:35Ah, era un chiste de chico.
19:37No, es indignante.
19:37¿Qué chiste de chico?
19:38Es indignante desde todo punto de vista.
19:39Me muero si se lo hacen a mi hija.
19:40Esperá, Rulo.
19:41Es indignante desde todo punto de vista y lo primero que hay que pensar es en las chicas.
19:44¿Pero por qué decís que exagero?
19:45No, pero pará.
19:46No, pero contéstame esto.
19:47Quiero responder por qué pienso esto.
19:49A ver.
19:50Porque creo que además hay una cuestión que es una falencia que viene de la mano de las casas,
19:56o sea, de las familias, de la escuela, que tiene que ver con la carencia de educación sexual.
20:01Sobre todo para con los varones.
20:04Y por eso también, teniendo un papá de dos varones, me gustaría preguntarle cómo lo trabaja él.
20:07Ahora se lo pregunto, pero quiero contestarte a vos.
20:10Se sorprenderían si supieran, en algunos estudios muy pocos que se hacen sobre varones adolescentes,
20:18porque la mayoría de los estudios se hacen sobre mujeres adolescentes,
20:21la cantidad de chicos que entran al sexo a través del porno.
20:25Se sorprenderían de varones adolescentes que entran al sexo a través del porno.
20:30Y que los papás no se enteran, no lo saben, y terminan incluso llegando a lugares en los que son
20:37adictos a eso que pasa.
20:38¿Puedo decir algo antes que responda?
20:40Sí.
20:41Yo atiendo lo que dice Rulo, y claramente que hay que hacer algo con estos pibes,
20:44pero también hay que pensar cómo hacemos para prevenirlo, para que esto no llegue hasta ahí.
20:48Eso está muy bien, pero la prevención es básica.
20:50Es la única manera de que no vuelva a pasar.
20:52Es la única manera, pero te sorprenderías también saber cómo los papás de muchos de estos chicos
21:00creen que esto es un juego de niños.
21:02Ah, bueno, claro, ni hablar.
21:03Y si les tocase el bolsillo, es de la única manera que los van a retar de verdad.
21:07Perdón, ¿quiere contestar?
21:08Hay que tocarles el bolsillo, coincido plenamente con Rulo.
21:11Tocarles el bolsillo, bien tocado, para que ahí sí los agarren bien del forro de los pantalones.
21:19Porque hay muchos que justifican esta actitud porque son nenes, y no son nenes,
21:23porque la cara de ellos no se la pusieron.
21:25Pusieron la cara de la espía, boludo.
21:26Ponete vos.
21:28Exacto, tenés razón.
21:29Pero perdón, porque él es papá de dos varones, por eso.
21:31No es una travesura, y un poco lo que estuvieron hablando, lo que estuvieron hablando es parte
21:36del problema, parte del problema, esto, que el sitio pornográfico está visto como algo
21:40de acceso para todos.
21:42Entonces, los chicos copian, y copian de los criminales, porque no es una industria,
21:48dejemos de llamar la industria.
21:50Son criminales, porque por eso tienen los sitios en lugares donde no se les puede solicitar
21:55fácilmente con una demanda que retiren el contenido.
21:58El sitio no lo ponen en Brasil, en Uruguay, lo hostean en países donde para hacer una
22:03demanda, en 10 años te la contestan.
22:06Entonces, eso es lo grave del tema.
22:08Y que los chicos se metan en ese submundo, esos son los padres que los que necesitan.
22:11¿Vos hablás con tus hijos sobre estas cosas?
22:14Porque tenés uno de 13 y uno de 17.
22:18Pero lo vengo hablando con los dos, lo vengo hablando todo, exacto, tengo 13 y 17.
22:24Lo vengo hablando con ellos desde muchísimo tiempo, y lo venimos hablando constantemente
22:28con el tema de lo que tiene que ver con lo digital.
22:31El daño digital es el mismo que el físico, es lo mismo.
22:34Lo único que uno se ve menos que el otro.
22:37Le pueden decir, es fake.
22:39Ah, no, la foto no es verdadera.
22:41Ah, no, como no necesitas la misma línea del cuerpo, te das cuenta que es verdad.
22:45El daño está hecho.
22:45Te quiero decir esto.
22:46El daño está hecho y estos son criminales.
22:48Primero es...
22:48Esto es criminal.
22:49Total.
22:49Lo que pasa es que nadie hace nada para regularlo también.
22:53Porque estamos hablando...
22:53No, no es...
22:54No, pero perdón, perdón.
22:55Acá, disculpame.
22:55La máxima autoridad diciendo, liberemos la inteligencia artificial sin ningún tipo
22:59de regulación.
23:00Además...
23:00También hay que actuar toda la justicia, los expertos.
23:04Eso es cierto.
23:04Tienen que actuar también para garantizarnos poder vivir en sociedad.
23:07También hay trabajo que está faltando.
23:09Disculpame, te digo algo.
23:10Primero, principal, se lo hicieron a mujeres.
23:13No escuché ningún niño que diga, pusieron mi cara como que yo soy actor porno.
23:18¿Por qué no pusieron varones haciendo actor porno o desnudos para páginas gay?
23:22Segundo, además que es meterse contra la mujer.
23:25Es un acoso.
23:27Porque no lo hicieron antes.
23:28Es contra la mujer, además.
23:29Son cuatro pibes que son súper misóginos.
23:32¿Por qué no se lo hicieron a los varones el chiste?
23:35Y se lo vendieron a las páginas gay.
23:37Si era tan inocente.
23:38Claro, era una boludez.
23:39Hacéselo a tu mejor amigo.
23:41No vamos...
23:42Para mí de ninguna manera hay que minimizar esto.
23:44Este caso tiene que ser el caso testigo para que ninguno se le vuelva a ocurrir hacerle
23:50esto a nadie.
23:50Ahora, Rulo, yo te veo indignado y te veo indignado más allá de como periodista, como padre.
23:54Porque vos tenés una criatura.
23:55Si esto te llega a pasar a vos, obviamente vas a ir por lo legal.
23:58No, no.
23:59A ver, quiero ser tranquilo para explicarlo acá periodísticamente porque no me quiero
24:04poner.
24:05Si se lo haces a mi hija, le toco el timbre al padre directo, se la pudro fuerte, que seguramente
24:10muchos papás de las chicas deben haber querido tomar represalias y hablar con los papás.
24:15Flaco, controla tu hijo hasta que tenga 18 años con lo que hace con el celular que le
24:19compraste.
24:20Es una locura.
24:21Quiero decir algo sobre esto.
24:23No, que lo controlen de por vida.
24:24A los 18 no termina, de por vida.
24:26Bueno, pero pará, pará.
24:27Está bien, todo lo que quieras.
24:28Pero cuando tiene 18 años, el pibe es...
24:31Esa es su responsabilidad.
24:32Acordate vos a los 18 que directamente no le atendías el teléfono a tus padres, te
24:37ibas para acá, te ibas de viaje.
24:39Igual también...
24:39Vos ya sos un adulto, hermano.
24:41Quiero decir...
24:41No, no te digo a vos en general.
24:43El colegio me parece que es un actor determinante en todo esto, ¿no?
24:47Primero porque es el colegio el que no dimensiona la gravedad de lo que ha pasado y la
24:52gravedad institucional que tiene esto.
24:54Es coincido.
24:54No, ahora la ha dimensionado.
24:56La ha dimensionado y nos ha comunicado a los padres todas las acciones tomadas.
25:01A los chicos no se les renueva la matrícula.
25:03O sea, ha tomado acción.
25:06Tal vez se puede decir que tomó tiempo, pero ha tomado.
25:09No, lo que yo quiero decir es que lo público y lo privado, el borde entre lo público y
25:15lo privado, desde que todos nuestros chicos están mediatizados, tienen una pantalla,
25:22tienen acceso a redes sociales, incluso a edades en las que no están madurativamente
25:26preparados para administrarlas, está desdibujado.
25:29Entonces, el ciberbullying, el ciberacoso, la ciberviolencia, todo eso constituye una
25:36herida real, por más que te produce o se traduce en un ámbito digital.
25:42Entonces, el colegio también tendrá que estar ayornado y entender que todas estas
25:48modalidades son formas reales de ejercer la violencia.
25:51Porque lo mismo hubiera sido que les hubiesen sacado la ropa.
25:54Yo puedo decir que el colegio lo ha abordado, pero no fue suficiente para estas mentes
25:59maléficas, o sea.
26:01Y sí, y sí.
26:02Ahora, a ver, a ver, a ver, esa tecnología.
26:03Pero también te digo, ¿cómo es tu nombre?
26:10Gastón.
26:11Gastón, pero también son adolescentes.
26:13Gastón, claro.
26:13Son adolescentes, no le estoy bajando el precio, ojo, pero quiero decir esto también,
26:17porque si no, me parece que estamos siendo muy deterministas en un montón de cosas.
26:22Y también cuando vos tenés un hijo adolescente, hay una barrera que todo el tiempo se está
26:26tratando de derribar.
26:28Melina, ¿puedo decirte algo?
26:30Sí, sí, y es difícil.
26:31¿Cuántos chicos de 14 años hay en la Argentina?
26:33Perdón, me enojo porque...
26:34¿Qué es eso?
26:34Bueno, yo te quiero contar, debe haber, no sé, voy a inventar el número, un millón
26:38de chicos de 14, somos 56 millones de habitantes, un millón de 14.
26:42Listo.
26:43¿Cuántos chicos hicieron esto?
26:44Cuatro en la Argentina.
26:45Son adolescentes, flaco.
26:47Los adolescentes.
26:48No, pero...
26:49No, dejame terminar.
26:50No lo hacen, y dejame con esto cierro.
26:53La vendieron a un sitio porno y encima ganaron dinero.
26:57No es que a una compañerita que le hacía bullying le pusieron la cara de una modelo
27:02desnuda.
27:03Cometieron delitos o varios.
27:03Que la banco, una persona le hace...
27:05No es un sticker.
27:06Claro, pero ponele que, escúchame, ponele que un alumno digan, che, qué grave, este
27:11alumno le puso la cara de burlina a una mujer desnuda.
27:14Bárbaro, es grave.
27:16Estos pibes se lesionan a 50 milas y lo vendieron a un sitio, son delincuentes.
27:20Yo no estoy diciendo que no sea grave.
27:22Bueno, la entiendo, Meli.
27:22Yo no estoy diciendo que no sea grave.
27:25Lo que estoy diciendo es que me parece que es responsable, y que también me parece que
27:30es una manera responsable de abordarlo, que es mucho más complejo, porque tenés
27:34adolescentes de un lado y adolescentes del otro.
27:37Entonces, para que vos entiendas la complejidad que tiene esto, lo que te contaba antes de
27:42la ley Olimpia, no contempla, por ejemplo, penas de prisión, contempla sanciones.
27:47¿Por qué?
27:47Porque del otro lado tenés una mente en formación, porque si no, solamente los castigás, no
27:53sé, los pones contra el paradiso, los fusilás y no se termina.
27:56No se termina, porque vienen otros y vuelven a hacer lo mismo.
27:59Yo quería sumar a lo que dice Meli, por eso hablaba de por ahí no ser tan crudos, porque
28:04yo entiendo que es una gravedad enorme y que de verdad son delincuentes, no le quito
28:08gravedad.
28:09Lo que digo es, hay que hacer algo con estos chicos, con estos jovencitos, que hoy hicieron
28:13esta atrocidad y cometieron este delito enorme, pero hay que hacer algo con esos chicos y
28:18una pregunta grande que me hago, y a lo mejor se la traslado a Gastón, ¿qué pasa con
28:23esos padres, con los padres de estos cuatro pibes?
28:25¿Dónde estaban?
28:26Ahora, estas tecnologías en manos equivocadas, estas armas, porque son armas en manos
28:30equivocadas, hacen un desastre.
28:32¿Qué hace con estos cuatro pibes?
28:33Es una bomba nuclear en manos de cualquier.
28:35Exactamente.
28:35Yo coincido con Gaby, a estos cuatro pibes.
28:38A ver, yo te quiero contar algo, perdón Gastón, esto es corto.
28:41Cada uno es responsable por sus actos y sobre todo a partir de ciertas edades, por eso hay
28:46ley, vos a los 21, 18, tenés ciertas responsabilidades y ahora bajaron la ley, por ejemplo, si matás
28:52a una persona con 14 años recién cumplidos, ya sos responsable y antes eras inimputable.
28:57¿Qué quiero decir con esto?
28:58No, acá cada uno es responsable de sus actos.
29:01Si vos le robás el auto a tu papá y hacés una macana con el auto, tenés una responsabilidad,
29:06vos y tu papá.
29:07Acá yo entiendo que quieren apuntar al colegio porque los chicos se conocen de la escuela.
29:11Si hubiese pasado en un club, estaríamos apuntando contra el club.
29:15Acá, para mí, lo que la escuela no hizo es darles con un hacha a los pibes que hicieron
29:21esto.
29:22No sabemos todavía por qué no lo hizo, pero no es responsable de que los pibes lo hagan.
29:27Porque lo podrían haber hecho a las cuatro de la mañana en la casa.
29:32Es que es lo que quiero decir, perdón, es lo que quiero decir, perdóname Gastón, perdón,
29:36perdón, perdón, es lo que quiero decir, y ahora te dejo, perdóname.
29:39El tema es que cuando vos tenés acceso a las redes sociales, lo público y lo privado
29:43y la institución de lo que pasa adentro y lo que pasa afuera de la escuela, está
29:47desdibujado, está desaparecido.
29:48Gastón, dale.
29:49A ver, ¿qué opinás vos, Gastón?
29:50Como padre y como ingeniero en informática.
29:54Ese es el tema, a ver, porque unas respuestas que alguien dice, por ahí dice, bueno, yo
29:59he leído comentarios de cada graciado que han puesto que decían, ah, bueno, pero que
30:03no suban nada en Instagram, vamos a poner, no subimos nada, nada.
30:06Acá hay una cámara, acá hay una cámara, allá hay una cámara.
30:09Ya está.
30:10Claro.
30:10Ya nuestras caras.
30:11Chicos, un ejemplo es, no es no subir nada, porque ese es el tema, podemos pensar en lo
30:17simple de decir, no estoy en redes sociales.
30:19Si alguien quiere, agarra cualquier cámara y lo saca de cualquier cámara.
30:23Gastón, ¿se escucha hablar de las condenas ejemplificadoras?
30:28Bueno, no una condena sería en este caso, pero algo, una sanción, sería, muy bien,
30:34muchas gracias, en este caso, una sanción ejemplificadora del colegio, te haría pensar
30:39dos veces antes de hacer una cagada.
30:40Totalmente, escúchame, yo te digo algo, ¿saben por qué yo no hacía quilombo en la escuela?
30:45En la escuela, que era bastante revoltoso, no rompía nada, hablaba en clase, era revoltoso
30:50hasta ahí, porque tenía miedo que me echen, porque tenía miedo que me pongan amonestaciones,
30:54llegaba a mi casa y le decía a mis padres, me echaron de la escuela, mi papá me decía,
30:58te voy a instalar una zapatería en donde te sentás, hermano.
31:03Entonces yo en la escuela, antes de agarrar un mango y tirarlo por la ventana, decía,
31:07eso no se hace, no quiero tener problemas, quiero recibirme de vacaciones.
31:12Estos pibes le generan un prueba psicológico a las chicas, exponen a las familias,
31:16les pueden generar un trauma de por vida y son pobres adolescentes.
31:20Lo primero, la educación primaria está en la casa, eso es lo primero, la educación primaria está en la casa.
31:24Pero Cristian, por eso preguntaba por los padres de estos pibes.
31:26Hay que cortarlo de raíz esto.
31:27O sea, a estos pibes vos le das una buena condena, no lo van a querer hacer más.
31:30No lo van a querer hacer más, no hay una condena.
31:33No hay una condena, porque para eso no lo puede decidir la justicia, no lo puede decir la escuela.
31:39En todos casos lo decidirán los padres.
31:41Vuelvo a preguntar, ¿dónde corno están los padres de esos pibes?
31:44¿Qué estaban haciendo? ¿Qué no estaban viendo?
31:46Pero Lore, ¿te puedo decir una cosa?
31:46¿Qué hacían los chicos?
31:47Tampoco es tan sencillo, tampoco es tan redondo, ¿me entendés lo que te quiero decir?
31:52No necesariamente que el pibe vaya y patee a bancos en la escuela es la responsabilidad exclusiva de ese papá
31:59o de esa mamá.
32:00Ese papá y esa mamá se tienen que hacer cargo, sí.
32:02Esa escuela se tienen que hacer cargo, sí.
32:04La maestra que da los contenidos de educación sexual integral se tienen que hacer cargo, también.
32:08También todos son parte del problema y también parte de la solución.
32:12La colgamos a Claudia, que es abogada especialista en estos temas.
32:15Claudia, te pregunto de nuevo concretamente, porque es la pregunta que te hice al principio.
32:19Te repito la pregunta.
32:21¿Pueden tener una consecuencia jurídica?
32:25No te hablo tanto de lo penal porque no estoy pidiendo cárcel ni que le peguen con una tabla en
32:31la mano a ninguno.
32:32Pero pregunto, ¿tiene consecuencias jurídicas de algún tipo cometer un delito a mi criterio como lo que hicieron estos chicos?
32:40Sí, por supuesto que tienen consecuencias jurídicas.
32:43Tienen consecuencias jurídicas.
32:45Bueno, en el caso de que sea un delito penal, 128 del Código Penal, en ese caso va a haber
32:51cuándo se produjo el hecho.
32:53Pero si el hecho se produjo anterior a la promulgación de la ley penal juvenil, si tiene efectos o si
33:01se siguió difundiendo en forma posterior.
33:04Eso habrá que analizarlo.
33:06No, pero suponte que es después de que se promulgó la ley, porque pasó hace poquito y la ley también
33:10se promulgó.
33:10Pero bueno, supongamos que la ley estuviese en vigencia para todos aquellos que se les ocurra hacer el delito a
33:15partir de hoy.
33:17Si uno de los papás de las chicas se contrata, ¿vos por qué articulás? ¿Por el 128?
33:22Yo voy por el 128 y voy por el daño civil.
33:27Civil.
33:27Por el daño en relación a la imagen y la reparación del daño.
33:31¿Y a quién le hace juicio? ¿A los papás por ser tutores?
33:33Porque el niño...
33:34A los... no, si fueran menores, tienen la responsabilidad a los menores si está el régimen penal juvenil porque tienen
33:4115 años.
33:41Pero disculpame, ¿los civiles qué haces?
33:43En la reparación por daños a los mayores.
33:46A los mayores.
33:47Perfecto.
33:47Ya lo dijo lo, doctora.
33:48Si vos, papá, de una de las chicas que le hicieron este bullying y las colgaron en las redes,
33:54hacen un juicio a la familia.
33:55A ver qué dicen las familias.
33:57Entonces cuando lleguen las familias a las casas le van a decir...
34:00Flaco, esto me costó...
34:03Conseguir un abogado que te represente es ganarte la lotería también.
34:08Es difícil.
34:08Cuando vas con temas digitales, yo lo digo porque he tenido un montón de temas relacionados con copyright y todo.
34:16Estás la IA metida en el medio, no te da la espalda.
34:20Perdón, y te dé exactísimo lo que estás diciendo.
34:23Pará, pará, pará, pará.
34:24O sea, es difícil también conseguir porque te dicen, no, no le podemos sacar nada, es muy complicado probarlo.
34:30¿Puedo preguntar sobre eso al papá y a la abogada?
34:33Que es la pregunta que me quedó colgada y tiene que ver con los dos, tiene que ver con lo
34:36jurídico y tiene que ver con lo tecnológico.
34:38Insisto con el ejemplo que es distinto porque eran mayores de edad.
34:41Lo que pasó con Julia Mengolini y todo lo que se armó con la IA en esas imágenes donde se
34:46la mostraba teniendo relaciones sexuales con su hermano, que era un horror espantoso.
34:49Ella hizo una demanda y salió beneficiada en esa demanda, o sea, salió a su favor.
34:54Digo, ¿se puede tomar esto como ejemplo para empezar a generar jurisprudencia alrededor de esto?
34:58Lo pregunto desde lo tecnológico y desde lo jurídico.
35:01No sé quién quiere contestar primero, si la doctora o...
35:03Es que las leyes tienen que estar allornadas a esto.
35:07La tecnología ya está, la bomba atómica está en la mano de los chicos.
35:10Tienen que moverse los jueces, los expertos, los abogados, todo, para regular.
35:15Y tenemos que dejar de pensarnos con esta idea loca de decir, vengan a Argentina, inviertan trillones y que la
35:21inteligencia artificial no tenga ningún tipo de regulación.
35:23¿Se dan cuenta lo peligroso de ese saludo?
35:25Y yo soy ateo políticamente, porque esa idea de decir, vengan a Argentina, inviertan trillones y que la IA va
35:33a ser totalmente regulada,
35:34ojo por ese camino, porque estos, imagínense, me expliquenlo por 100 millones.
35:39Justamente el debate está en torno a, de quiénes son nuestros datos personales, cuando estamos poniendo todo en una inteligencia
35:46artificial y estamos pidiéndole distintas cosas.
35:49Y la otra cuestión, Lore, respondiéndote...
35:50Son nuestros según la Constitución, eso está en la Constitución, me puede corregir la abogada, pero está en la reforma
35:56constitucional, son nuestros los datos.
35:58La otra cosa...
35:59Tendríamos que tener derecho a que la IA no utilice mi cara para generar absolutamente nada.
36:03No, el derecho a la IA, que también es constitucional desde el 94.
36:06No, la Constitución, sí, exacto.
36:09Ahora, la otra cosa es que todavía no existe un instrumento lo suficientemente democratizante como la Internet, como un buscador
36:17como Google, o como un buscador como Google ChatGT,
36:20que te permita con la misma velocidad constatar la veracidad de las imágenes.
36:26Mismo pasó, mismo pasó con el atentado Cristina Fernández de Kirchner, con la primera imagen que se difunde.
36:31Déjame decir esto, lo primero se llama sesgo de confirmación.
36:35Vos podías creer de una manera muy rápida si esa imagen de alguien gatillándole a la Presidenta era verdadera o
36:41era falso, según tu sesgo.
36:43Exactamente.
36:43Hoy no existe un instrumento tan rápido y tan democrático donde vos puedas someter una imagen construida en inteligencia artificial
36:50que te devuelve y te diga...
36:51Hacer es rápido, deshacer es difícil.
36:52Ojo, está montado, exacto. Hacer es rápido, deshacer es difícil.
36:55Hay unos avances en Europa sobre eso, que las nuevas legislaciones europeas ponen una suerte de marca de agua en
37:02lo que se genera con ella.
37:03Exacto, tiene que tener trazabilidad la imagen hecha y creada con inteligencia artificial.
37:08Así sería una manera de regular.
37:10Pero el daño se produce igual.
37:12Yo me animaría.
37:13Igual que lo juro, perdón Cris, igual el daño como mujer, como nena, está recontrahecho porque la gente y la
37:21maldad de la gente, no es mira, ah, está choconeada, mira, es la cara de Juanita, la de la vuelta
37:26de casa.
37:26Totalmente.
37:27Y cuando pasan por la puerta le empiezan a gritar barbaridades y te lo puedo asegurar.
37:30Es así.
37:31Es imbatible, yo me animaría en imbatibles y si me lo permitís Meli y Rulo, yo les tomo una fotografía
37:38a los dos, separados,
37:40me dan dos minutos y con la inteligencia artificial puedo hacer que se están besando, que se están peleando.
37:46Quiero la desestamos, nos estamos besando.
37:48Lo que sea y lamentablemente es tan real, es tan real que yo se lo mando o te extorsiono con
37:53eso y es tan difícil.
37:55Me disculpen, me disculpen.
37:56Ahora se viralizó un video, nada que ver con esto, de un rapero, no sé si lo vieron, Bullying 47.
38:00¿Alguien lo vio este video o soy yo solo?
38:02Que no me para de aparecer el algoritmo.
38:04¿Qué hace qué?
38:05Yo soy piel de gallina.
38:06Uno que es un rapero que se acerca y hace como una canción y al rapero lo cambiaron por cientos
38:12de miles de personas.
38:13Lo hace Neymar.
38:14Ah, sí.
38:15¿Lo viste?
38:15Pero, pará, pará, es exactamente igual.
38:19Estoy impresionado, es lo máximo que vi hasta ahora de inteligencia.
38:21¿Qué quiero decir?
38:22Que ahora lo que vemos, excepto Crónica en vivo que soy yo.
38:27Somos nosotros.
38:28Vos sos vos.
38:28Yo soy yo.
38:29Todo lo demás puede ser fake.
38:31Entonces, lo que digo es, a ver, yo entiendo lo que dijo acá Gastón en el móvil que dice que
38:36es difícil de peritar.
38:38Pero, a ver, ¿qué quieren que le diga?
38:41Si no es mi hija la que está desnuda ahí, el flaco cometió un delito.
38:46Imagínate esto en una campaña política que se ha usado y que fue lo que es parte de lo que
38:51se analiza y lo que se viene en marketing político.
38:53Gracias.