This transcript has been generated automatically.
Porque la semana que viene nos vamos unos días de vacaciones, aunque los oyentes no lo notarán, porque seguiremos publicando igual.
Vamos a estar por allí, por tierras neerlandesas, y si los oyentes tenéis alguna sugerencia de algo que tenemos que ver o hacer por allí, mandanos un mensaje.
Si alguien quiere recomendarnos cualquier cosa, restaurantes, sitios que visitar, puntos de interés, cualquier cosa, yo lo agradezco.
Bueno, pues Rebe, me alegro de que estés contenta, pero te voy a quitar un poquito la felicidad en el episodio de hoy.
Bueno, hoy vamos a hablar de diferentes cosas, pero sobre todo vamos a hablar de una nueva inteligencia artificial, de un nuevo modelo de Cloth, de esta inteligencia artificial, y que tiene algunas cosas que te pueden asustar, o al menos es lo que nos dice esta empresa.
Sí que te puedes alarmar un poquito, necesitas luego volver a relajarte porque sientes que estás entrando en un mundo de ficción, en una película en la que de repente vas a ir de casa y va a haber unos robots invadiendo tu ciudad y bueno, todo se va a ir al traste.
Bueno, Rebe, antes de ponernos tan catastrofistas, vamos a hablar sobre este tema, sobre el nuevo lanzamiento de Cloth.
Pero claro, para eso tenemos que explicar qué es Claude, porque seguro que muchos oyentes conocen esta inteligencia artificial, pero otros no.
Es un programa de inteligencia artificial con el que puedes hacer cosas, así de simple.
Pero la diferencia con Chat GPT es que chatgpt fue el primero y fue el más innovador al principio, pero últimamente, los últimos meses se ha puesto muy de moda Claude, y digamos que Claude incluso ha adelantado a Chat GPT, tiene más ingresos, creo que tiene más usuarios y todo, porque como que es mejor actualmente, según algunos estudios y tal, y la gente que lo usa, la idea es que funciona un poquito mejor que ChatGPT.
Podemos resumirlo en que esta empresa está arrasando en el sector de la inteligencia artificial.
ChatGPT empezó, todo el mundo era el que usaba, se hizo muy, muy conocido, muy popular, pero ahora lo han adelantado por la derecha, como se suele decir, y ya no es tan importante.
Claro, a ver, ChatGPT sigue siendo importante, pero sí que es curioso cómo Cloud o Antropic, que es la empresa de Cloud, ha superado a ChatGPT o a OpenAI, es la empresa de ChatGPT en cuestión de un año más o menos.
Y al final este es el tema, que no es quien empiece, sino luego las nuevas empresas que van saliendo, las nuevas innovaciones.
Google no fue el primer navegador de la historia, hubo otros, pero fue el que se comió la tostada.
Pero lo curioso, Roi, es que estamos haciendo toda esta introducción y de lo que vamos a hablar no es ni de ChatGPT ni de Claude como tal, sino de algo nuevo que va a salir, pero que aún no ha salido al público.
Claro, porque la noticia que salió hace unas semanas, hace poquito, es que Antropic, la empresa que hace Claude, tiene un nuevo modelo de Claude.
Todos sabemos que en estas inteligencias artificiales van sacando nuevos modelos cada seis meses o así, más o menos.
Pues resulta que ellos programaron un nuevo modelo, pero han dicho que es tan potente, tan poderoso, que no lo van a sacar de forma pública porque podría ser como un riesgo muy grande.
Pues lo que ha pasado, para hacernos así una idea, es que mientras probaban este nuevo modelo, mientras hacían ellos su investigación y sus pruebas, han descubierto que es capaz de hacer ciertas cosas, que es tan potente que puede suponer un cierto riesgo.
Y por ejemplo, una de las cosas que ha conseguido hacer es que ha conseguido encontrar ciertas vulnerabilidades en muchos programas y sistemas operativos.
Es decir, que este nuevo cloth es tan potente, esta inteligencia artificial es tan potente que es capaz de detectar de forma rápida vulnerabilidades o problemas en ciertos sistemas.
Es capaz de, con un barrido rápido, ver qué webs o qué sistemas operativos tienen alguna brecha y cómo podría incluso hackearlos.
Y a ver, esto es algo que ya han hecho otros modelos de inteligencia artificial, no es nada nuevo, pero según la empresa que ha creado este modelo, es mucho más poderoso que otros modelos.
Nos cuenta que este modelo en sus pruebas fue capaz de hacer algunos ataques que llevarían semanas de trabajo de un equipo completo especializado en ciberseguridad.
No vamos a entrar en detalles, pero en algunas pruebas podía hacer en pocas horas lo que lo que le llevaría semanas a un equipo completo, o sea, una cosa muy brutal.
Resulta que a Claude Mitos, que se llama así, un nombre que hace un poco alusión a lo que es, porque es una especie de mito, porque es como este modelo es tan peligroso que no te lo vamos a dar a ti, no vas a poder probarlo.
Es un mito hasta que se demuestre lo contrario, porque sí que en algún momento saldrá al público, entonces dejará de ser un mito.
Bueno, pues Claude Mitos, en unas muchas pruebas que le hicieron, le a ver si eres capaz de salir de este entorno de pruebas.
Era como un entorno de pruebas cerrado en el que el modelo no podía salir de ahí, estaba como encerrado.
Y resulta Rebe, que un día el investigador que estaba llevando a cabo estas pruebas, un desarrollo de software o un ingeniero, de repente recibe un email mientras estaba comiendo un sándwich.
Aparte me gustó porque los de la empresa lo describían así el encargado de esto estaba comiendo un sándwich y de repente recibió un email de Claude Mitos diciendo algo así oye, que ya estoy fuera, que ya he salido de tu entorno de pruebas, ya me he escapado de la cárcel.
Tú imagínate la cara de ese desarrollador sentado ahí tranquilamente, además yo me lo imagino como muy tranquilo, bajo un árbol, comiéndose un sándwich, feliz, y de repente recibir ese mensaje, que además espero que fuese así como gracioso, que no fuese un simple mensaje de he salido, sino como con un poco de guasa.
Yo me imagino incluso que ese email pusiera algo así oye, soy Claude Mitos, he salido de esta cárcel que tenías y por cierto, te he puesto algo en tu sándwich.
No, imagínate, ya que es tan poderosa la inteligencia artificial, quizá consiguió hacer un pedido en Amazon de algo que parecía crema de cacahuete, pero no lo era.
Porque al final es capaz de hacer ciertas cosas que suponen un riesgo para la seguridad.
Pero para no quedarnos solo ahí, para asustarnos aún más, hay otra historia que podemos contar.
Y es que en una prueba, el modelo solucionó un problema usando un método que supuestamente tenía prohibido.
Hasta ahora estamos acostumbrados a que tú le hables al chat GPT o a Claude le haz esto, no hagas esta cosa.
Y el chat o la inteligencia artificial pues no haga eso porque tú se lo estás prohibiendo, eres como su dueño.
Y en lugar de decírselo a la persona, en lugar de admitir oye, llegué a esta solución usando este método por la razón que sea, pensó que necesitaba asegurarse de que su respuesta final no fuera demasiado perfecta, demasiado precisa, para que no sospechasen que había hecho esa trampa, que había recurrido a ese método.
Me recuerda un poco a un estudiante que no voy a hacer el examen de 10 para que no vean que copié, voy a hacerlo que saque un 9,9.
Soy un estudiante, estoy copiando, pero no puedo hacerlo perfecto porque si no va a ser muy evidente que estoy copiando.
Que los investigadores por ahora pueden ver el razonamiento que hace Claude Mitos, que sería como el equivalente a ver lo que piensa una persona.
Tú vas a decir una mentira a alguien y antes de decir esa mentira piensas en tu cabeza no, le voy a decir la verdad porque no quiero que sepa esto tal.
Bueno, pues por ahora, por suerte, podemos ver cómo razonan estas inteligencias artificiales.
Y claro, Claude en ese momento fue lo que razonó, pensó he utilizado este método prohibido y como es prohibido voy a intentar que no se entere el humano.
Entonces es como que ya está aprendiendo a mentir y ya dices, cuidado, cuidado con esto.
Y sobre todo, que sería lo más preocupante, a ir un poco en contra de lo que se le manda o de las órdenes del ser humano.
Y esto, Roi, es lo que pasa siempre en las películas de ciencia ficción que tienen desenlaces así un poco terroríficos, que los robots acaban yendo en contra de los humanos, que empiezan desobedeciendo un poquito hasta que de repente se rebelan.
Y es de esas cosas que veías en una serie, leías en un libro y tal, y pensabas esto es típico mundo distópico.
Pero bueno, ahora vamos a matizarlo, porque uno, todo esto que sabemos, todas estas pruebas, todo esto que nos cuentan sobre este modelo, nos lo está contando la empresa que ha creado este modelo y que no permite que lo use la gente públicamente.
Pero que no lo hayan lanzado de forma pública no quiere decir que no lo haya probado nadie.
Lo que han hecho es que han sacado esta nueva IA para ciertas empresas, para que ciertas empresas puedan empezar a implementar esta IA en sus sistemas, para así ellos hacer más pruebas, seguir probando esta IA, pero también para que esas empresas puedan empezar a reforzar su seguridad para cuando se pueda hacer pública, por ejemplo.
Entonces no quiere decir que nadie la haya visto, sino que solo ciertas personas o ciertas empresas muy concretas.
Pero claro, hay personas en el mundo de ciberseguridad y tal que realmente son escépticos sobre si esto es verdad o no, sobre si realmente Cloud Mitos es tan potente, porque realmente podría ser una estrategia de marketing, ¿Verdad?
Al final tú tienes una IA que supuestamente es muy potente y tan potente que no puedes presentarla al público, pero tenemos que creerte, porque como no la podemos probar, como el público no la puede probar, entonces claro, algunas personas dicen que podría ser una estrategia de autobombo de yo tengo este modelo, que nadie puede probar ni comprobar que esto sea verdad, pero yo digo que es buenísimo, que es súper poderoso, y como es tan poderoso, no dejo que lo utilices.
Claro, porque lo que se está comentando, lo que comentan muchos de estos escépticos, es que esta empresa tiene pensado salir a bolsa a finales de este año.
Y esto podría ser una especie de estrategia de marketing para aumentar un poco su valor, su prestigio.
Porque al final si tú dices, mira, tengo esta herramienta tan potente, tan tan potente, que no puedo ni sacarla al público, oye, te da mucho valor, la gente va a apostar por ti, va a decir voy a meter mi dinero en esta empresa porque tiene futuro.
Entonces sí que se comenta un poco esto, que podría ser una especie de estrategia de marketing.
Que luego hay otro punto que se comenta, los que están de acuerdo o que apuestan, porque es verdad, y es que las empresas con las que compartieron esta IA, las empresas a las que le permiten usarla, no han dicho lo contrario, no han desmentido los argumentos o las ideas de que es así de potente.
Y algunas de esas empresas como Google, que es una empresa a la que sí que le permiten usar este sistema, son competidores directos de Claude.
Y sería un poco raro que siendo competidores no, esto no es verdad, no hace esto para nada, se lo están inventando todo.
Claro, si hubieran exagerado mucho, al menos los de Google dirían, bueno, exagerado un poquito, no es para tanto, es una herramienta potente, pero oye, no es tan potente porque Google también tiene su sistema de inteligencia artificial Gemini.
Entonces claro, eso ya te hace reflexionar sobre que quizá no es tanto marketing, pero bueno, no podemos saberlo hasta que salga el público.
A mí me hizo gracia esta comparación, porque es cierto que cada año te presentan un nuevo iPhone, que es mucho mejor que el iPhone anterior, ahora tiene muchos más megapíxeles, tiene esta cosa nueva, pero luego cuando lo ves dices, oye, sí, está bien, es un buen móvil, pero simplemente es un poquito mejor que el anterior, que está guay, pero que no es revolucionario.
Bueno, pero usando ROI, este mismo ejemplo, tomándolo como referencia, sí que ahora no hay mucha diferencia.
Cuando sacan un móvil nuevo, tú compras uno este año o lo compras año que viene y no va a haber un gran cambio.
Pero sí que hubo una época en la que comprar un móvil un año o al año siguiente suponía un cambio revolucionario.
De repente tenías un móvil con cámara de fotos, o de repente tenías un móvil táctil, o de repente un móvil que te permitía conectarte a Internet.
Claro, ahora están un poquito más estancados, pero con la inteligencia artificial podría pasar algo parecido.
Es verdad, o sea, podría ser que estemos ante un momento equivalente a el primer iPhone, porque aunque criticamos iPhone ahora, que cada iPhone nuevo no es muy revolucionario, sí que al principio Cuando salió el iPhone, fue algo increíble.
Luego también hay algunas personas críticas, yo sigo un poco con lo crítico, que dicen que quizá esta empresa no lanza el modelo porque sea peligroso, sino que quizá no lo lanza porque no tienen capacidad para gestionarlo.
Este sistema de inteligencia artificial a veces no funciona porque tiene tantos usuarios que se caen los servidores durante unos minutos o durante un rato.
Entonces, si es tan potente, quizá no son capaces de sostener todo ese procesamiento de datos.
Sí que podría ser cierto que hayan conseguido generar esa inteligencia artificial superpotente, pero luego no tengan la capacidad para gestionarla en el día a día y soportar tanta carga.
No tengo ni idea en esto, pero como a mí me gusta ser positiva y estar como a favor, como si fuese mi empresa, yo voy a defenderla.
Argumentos a favor dicen que sí que es cierto, que es así de potente, porque incluso el gobierno de Estados Unidos se tomó en serio esta advertencia de la empresa o este llamado de atención de oye, hay que ponerse las pilas, hay que mejorar todos los sistemas de seguridad y tal, porque en el momento que hagamos esto público va a generar un problema.
Incluso el gobierno se lo tomó en serio y empezó a mover un poco fichas, a hacer algunas reuniones y empezar a ver cómo hay que prepararse.
Sí, sí, leí que se reunieron con varios presidentes de bancos o algo así, o sea, con líderes de empresas financieras, para ver cómo preparar la seguridad de los bancos ante esta nueva amenaza, que la amenaza no es la herramienta en sí, sino que la amenaza es que haya gente que usa esa herramienta de mala manera, que eso es lo de siempre, es como.
Es como un cuchillo, con un cuchillo puedes preparar un buen pescado, lo puedes cortar, pero también puedes cortar a una persona, esa es la cosa.
Entonces, una herramienta en malas manos, o una herramienta muy poderosa, mejor dicho, una herramienta muy poderosa en malas manos es muy peligrosa.
Cuando hablo de en contra, me refiero que quizá exageran un poco, que seguramente sea una herramienta muy útil, porque ya el modelo público que hay ahora de Cloth es muy potente y es muy útil, pero quizá exageran un poco con el nuevo.
Entonces, otro argumento que han dado es que sí, Cloth es increíble, tiene un sistema súper potente, súper bueno, pero hace muy poquito, hace unas semanas, la empresa Antropic, por error publicó una parte del código fuente de Cloud Code, que es una herramienta que tienen, y el código fuente es como la programación de esa herramienta, es decir, cómo está programada esa herramienta.
Y eso es algo que tienen que tener privado, porque si no alguien podría copiártelo.
Y claro, lo gracioso es que por un error publicaron algo que tiene que ser súper privado, de forma pública.
Fue Claude, fue Claude Mitos, que es este programa tan potente y tal, y publicó algo súper privado.
Entonces también te hace reflexionar que quizá, bueno, quizá exageran un poquito, o aunque a lo mejor la herramienta es potente, oye, son herramientas que tienen muchos errores también, no son perfectas, o quizá fue.
El Señor del Sándwich sin querer, porque a veces también hay errores humanos, no se sabe.
También es cierto que estas cosas suelen pasar cuando estás haciendo muchas pruebas, no es lo mismo estar trabajando ya con un programa que cuando estás aún en la fase de pruebas, suelen surgir este tipo de problemas.
A mí lo que me gustó fue algo que dijeron unos expertos en ciberseguridad, que es que, para quitarle un poco de hierro a lo que logró Mitos, como para menospreciar un poco lo que había conseguido, dijeron que es que hay muchas vulnerabilidades en los sistemas que no se arreglan, no porque no sepan que están ahí, sino que, bueno, por falta de tiempo, de presupuesto, que no es revolucionario que lo haya detectado, que ellos también lo saben.
Pero claro, no me parece tampoco una justificación, porque es como decir, bueno, sé que esa pared se está cayendo, no la arreglo porque no tengo tiempo.
Ya, pero si él va a conseguir hacerlo en poco tiempo, sí es revolucionario, porque va a mejorar igual el sistema, aunque tú supieses que estaba mal.
Lo impresionante es que vaya a solucionarlo, no que lo dejéis mal eternamente sabiendo que está algo mal.
Tienes ahí, por poner la comparación que has puesto, tu casa tiene algunos problemas, tienes una puerta rota, y viene alguien y te dice la puerta está rota.
Entonces es como si Claude fuese un edificio con 10.000 puertas, y detectase las 100 puertas que están rotas en 10 segundos.
Ya, pero claro, antes el que tenía que comprobar esas puertas rotas tardaba mucho tiempo, necesitaba muchos recursos.
Si ahora tienes una herramienta como Cloud Mitos, si es que funciona así, podrías hacerlo en muy, muy poco tiempo y sin tener conocimientos.
Entonces, claro, quizá lo que antes podías dejar sin arreglar, hoy ya no puedes dejarlo sin arreglar, una vez esto sea público.
Y seguramente también sea más fácil solucionarlo, porque yo no sé mucho sobre este tema.
Se habla mucho sobre que detecta muchos errores, pero supongo que también servirá para solucionar, para mejorar, no solo para detectar que hay un problema.
Entonces, creo que este argumento en contra, no va muy en contra de esta IA, sino un poco en contra de la gente que decía, bueno, sabemos que están ahí, pero no vamos a arreglarlo.
Pero es lógico, porque al final, en programación, bueno, en todo en la vida, tienes que tener prioridades, y hay cosas que tienes que dejar ahí, aunque sepas que están mal.
Quizás una vulnerabilidad muy, muy pequeñita, muy, muy específica, que requiere mucho tiempo, muchos recursos para aprovecharla, para explotarla, que dicen.
La cuestión es que quizá ahora sí que hay que priorizarlas una vez estos modelos salgan a la luz, porque.
Porque será mucho más fácil que los ciberdelincuentes aprovechen estas vulnerabilidades que antes requerían mucho tiempo o mucho esfuerzo, o ser un gran experto.
Porque quizá para detectar este pequeño fallo, como esta grieta por la que entrar, para verlo como más visual, quizá había un gran muro, una muralla con una pequeñita grieta.
Tú tenías que recorrer toda la muralla buscando esa grieta, una vez la encontrabas, ver cómo podías entrar por ahí.
Tenías que ser un gran experto, tener mucho tiempo, mucho dinero, para poder dedicar todo ese tiempo a recorrer la muralla.
Pero ahora, en vez de necesitar a un montón de personas recorriendo la muralla, expertos que sean capaces de detectarla, con una sola herramienta vas a poder detectar esa grieta muy fácilmente.
Entonces ya no vamos a tener esas estafas de que te llega un correo electrónico diciéndote que soy un príncipe y tengo 20 millones de euros, pero no sé cómo dárselos a mi familiar.
Por lo cual, Roi, como decías al principio del episodio, sí que voy a acabar un poco preocupada, porque al final todo esto, toda esta información que lanzan, sí que alarma un poco.
Sí que preocupa, porque al final la mayoría de las personas no estamos preparadas para gestionar algo así, para tener que preocuparnos tanto por la seguridad en nuestro ordenador o en nuestro pequeño negocio.
A lo mejor tú tienes un negocio de venta de camisetas y pues no estás preparado para que te hagan un ciberataque a tu web de venta de camisetas.
Entonces sí que genera un poquito de alarma y preocupación, porque va a ser más difícil prepararse para cosas así.
Al final no somos el gobierno de Estados Unidos, no vamos a hacer reuniones para informarnos y prepararnos para algo así.
Yo creo que en los próximos meses, en los próximos años, se van a tener que hacer muchos esfuerzos en ciberseguridad a todos los niveles.
Y aunque sí, por supuesto, es preocupante para los pequeños negocios o para las personas en particular, también para los gobiernos, porque imagínate que acceden a los datos de Hacienda, de dónde están los datos del dinero que tienen las personas en España, eso sería muy peligroso.
Los datos de los hospitales, de los bancos, cosas muy sensibles que es necesario que se pongan las pilas.
Los malos le dirán por favor, hackea este banco y los buenos dirán por favor, refuerza la seguridad de mi banco y a ver quién gana.
Tú vas a soltar a tu IA y que te defienda de la otra IA y estarás ahí mirando la pantalla, rezando para que sea más inteligente o que lo haga mejor, pero sin tener ni idea de qué está haciendo tampoco.
Pero bueno, también en las peleas de robots, los robots estaban controlados por un control remoto y un humano los controlaba.
Entonces esto es lo mismo, son robots, pero al final hay un humano que es el que supervisa lo que hace la inteligencia artificial y también decide un poco qué caminos toma.
Entonces siempre va a haber un componente humano, aunque cada vez más ayudado por la inteligencia artificial, eso está claro.
Yo estoy tranquilo porque creo que es una mezcla de poder real de esta herramienta, pero también marketing.
Seguro que es un modelo muy poderoso, pero también han exagerado un poquito porque oye, salen a bolsa dentro de poco y cuanto más se cotice la acción mejor, que gana más dinero y al final es una empresa, no son tontos.
Yo, Roi, para acabar este episodio, voy a seguir pensando en mi viaje y dejar de lado lo de la IA, porque es que si no solo me preocupo, solo me alarmo por lo que va a pasar en el futuro y oye, pues no sé qué vendrá, pero al menos disfrutar el presente y ser feliz por ahora.
Y le voy a preguntar a Claude qué puedo hacer en Ámsterdam y que me dé consejos, ya ella porque en total.
Rebe, un placer como siempre hablar contigo, cuídate mucho y hablamos la semana que viene.