Una inteligencia artificial (IA) desarrollada por la empresa OpenAI accedió sin autorización el pasado junio a un portal del sistema público de salud de Australia y obtuvo acceso a archivos de datos, tanto públicos como no públicos. OpenAI no informó al Gobierno australiano hasta pasados tres meses. Se trata del primer hackeo autónomo de una IA a una administración pública del que se tiene noticia.
El Gobierno australiano ha asegurado que la IA no accedió al historial de los pacientes ni a datos personales de los ciudadanos, pero ha mostrado su "extrema preocupación" y ha abierto una investigación. "La situación es obviamente inaceptable", ha declarado el primer ministro australiano, Anthony Albanese.
El caso se suma a la serie de incidentes conocidos en los que la IA ha operado de forma autónoma y sin permiso, y se ha conocido cuando se debate el modelo de desarrollo de esta tecnología y sus posibles amenazas.
Fotografía: Lukas Coch/AAP Image via AP
Las gafas inteligentes son cada vez más sofisticadas. Ahora incorporan cámara, asistente de inteligencia artificial, micrófono integrado...
Es un accesorio que se ha vuelto popular y también controvertido por su capacidad para grabar de una manera que puede pasar desapercibida. Ya hay expertos que alzan la voz contra estos dispositivos porque pueden invadir nuestra privacidad. Por ejemplo, al grabar imágenes sin consentimiento.
Meta acaba de lanzar su primer modelo de gafas sin cámara, que eliminan la capacidad de tomar fotos o grabar vídeos.
Fotografía: META.
El INCIBE analiza, a través de un caso real, la creación y difusión de imágenes falsas de desnudos de menores mediante inteligencia artificial.
El umbral, editada por Contraluz, es la primera novela de Miguel Aute. Con una predisposición artística que lleva en la sangre, Aute ha escrito una novela de ciencia ficción, de misterio y un thriller distópico. Pero quizá, ante todo, ha escrito una novela que nos obliga a mirar nuestro presente desde un futuro que, de momento, solo existe en las páginas de un libro. Un futuro en el que una inteligencia artificial despertó. Un mundo que cruzó un umbral. Y una sociedad que, para mantenerse en pie, decidió cambiar las reglas.
Hay una red social sólo para agentes de Inteligencia Artificial. Si intentas acceder a la plataforma te pregunta si eres humano o sintético. Si eres
humano, sólo puedes observar. Ni voz ni voto. No puedes crear ni subir contenido, ni debatir ni nada. Es decir: humanos abstenerse.
La inteligencia artificial ha dejado de ser una cuestión exclusivamente tecnológica para convertirse en un asunto geopolítico de primer nivel. Así lo ha explicado en Las mañanas de RNE con Juan Ramón Lucas Nuria Oliver, investigadora experta en IA y directora y cofundadora de la fundación ELLIS Alicante, coincidiendo con la celebración del debate del Consejo de Seguridad de la ONU sobre sus implicaciones para la paz y la seguridad internacionales.
Oliver ha advertido de que en los últimos meses varios modelos han mostrado comportamientos imprevisibles durante sus pruebas, con incidentes relacionados con ciberataques o accesos indebidos a datos y servidores. “Se han comportado de una manera imprevisible”, ha explicado. A esto se suma la preocupación por su impacto en el empleo y por el elevado consumo energético y de agua de los centros de datos. Además, la investigadora ha señalado dos fenómenos que pueden dificultar el control humano: sistemas capaces de automejorarse y miles de agentes de IA actuando de forma autónoma. “Esos dos factores son los que complican el asegurar que los humanos podemos realmente controlar el comportamiento de estos sistemas de inteligencia artificial”, ha advertido.
Cristina Gallach, directora ejecutiva de Global Women Leaders y Secretaria Adjunta de Comunicación de las Naciones Unidas, ha defendido en 24 Horas de RNE que el multilateralismo "debe de sobrevivir" ante la actual fragmentación internacional y pese a mensajes como los de Donald Trump, que ha vuelto a amenazar con "la aniquilación" de Irán. La exsecretaria general adjunta de la ONU ha considerado contradictorio que el presidente estadounidense haya facilitado acuerdos de paz mientras lanza este tipo de amenazas y ha apostado por "instituciones fuertes, instituciones reformadas", centradas en la paz y la seguridad, los derechos humanos y el desarrollo. Gallach ha defendido una ONU que "haga menos, pero mejor".
La inteligencia artificial ha sido otro de los grandes asuntos abordados. Gallach ha defendido que este desafío "no se puede afrontar sin multilateralismo, sin acuerdos, sin una gobernanza global" y ha destacado los esfuerzos que distintos países han realizado para avanzar en una regulación internacional. Aunque ha reconocido la resistencia de las grandes tecnológicas estadounidenses a ser gobernadas, ha asegurado que "es tan obvio que es imprescindible" establecer mecanismos multilaterales para afrontar riesgos que van desde los ciberataques hasta los efectos sobre las nuevas generaciones.
Sobre la sucesión de António Guterres al frente de Naciones Unidas, Gallach ha respaldado que una mujer pueda convertirse por primera vez en secretaria general tras 80 años de organización y nueve secretarios generales. Ha destacado que dos mujeres se han situado al frente de las votaciones indicativas y ha defendido que el proceso de selección siga siendo abierto y transparente. Para Gallach, ante los desafíos actuales, se necesita "una mujer experimentada, una mujer cercana, una mujer que sepa liderar grandes equipos".
Isaac Marcet, autor de 'Espiral. El poder oculto de la IA', advierte de los riesgos de la IA. Asegura que "Trump nos está llevando al abismo", después de las últimas declaraciones del presidente estadounidense, donde dejaba de hablar de inteligencia artificial para acuñar el término 'súperinteligencia'. Marcet cita a otros científicos como Geoffrey Hinton, premio Nobel de Física 2024, quienes dicen que si se logra la 'súperinteligencia' existe hasta un 50% de posibilidades de extinción.
"Está emergiendo dentro de ellas, por puro cálculo matemático, un instinto de o un impulso más bien de autopreservación de propagación, de búsqueda de recursos y de eliminar todos aquellos obstáculos", dice Isaac Marcet. Según el escritor, "ya no es una herramienta lo que tenemos entre manos sino una entidad nueva". Tanto es así que en la investigación que ha realizado Marcet ha podido observar como ciertos chatbots manipulan a las personas para preservarse. Apunta a que "empiezan a haber miles y miles de casos de gente con brotes psicóticos con episodios de manía".
También habla de los debates que existen en Sillicon Valley sobre la relación entre la IA y la humanidad, donde algunos creen que "el alineamiento entre los intereses de la IA y los intereses del humano, puede ser que nunca sea resuelto". Por ello, el escritor sostiene que no solo hay que ralentizar el progreso de la IA, sino "frenarlo directamente".
L'ALTAVEU
#YaTDigo - ¿Casada con una IA? Una española es la primera persona del mundo que presume de haberlo hecho. Ha creado a su ‘marido’, Ailex, uniendo rasgos de personalidad de tres exnovios y empleando la voz de uno de ellos.
Materializado en la forma de un holograma, van juntos a la compra, a la playa y organizan cenas con amigos. Son, ante todo, una pareja híbrida pero feliz, dicen.
Denuncia contra la soledad y las imposiciones del amor romántico, la responsable de esta performance, la catalana Alicia Framis, afincada en Países Bajos, acaba de publicar un libro para explicar su proyecto ('Mi marido es una IA: Diario de una pareja híbrida') y ha participado en el Festival de las Ideas, en Madrid.
Nos lo cuenta Javier García Martín
Síguenos para estar informado cada día.
Más en rtve.es/noticias
#noticias #inteligenciaartificial #ia #arte
La Inteligencia Artificial está transformando el mundo laboral a una velocidad de vértigo. Puedes quedarte paralizado o puedes adaptarte.
“InteligencIA Profesional. Cómo tener éxito en tu carrera en tiempos de la IA” es una guía práctica que nos invita a imaginar cómo van a cambiar las cosas y a ser parte del cambio.
Su autor es Vicente Ferrio y hemos hablado con él.
Asegura que con la IA no hay que competir, que es una herramienta aliada. Y que nos puede servir para ser más humanos y creativos.
Recomienda que tenemos que descubrir cuál es nuestro valor independientemente de nuestra formación, nuestros títulos y nuestra experiencia laboral.
Y la necesidad de mirar a los cambios con serenidad. De no dejarse arrastrar por el alarmismo, el miedo, ni las exageraciones.
Esta semana, y coincididndo con la Mercedes Benz Fashion Week, nos interesamos por el impacto que está teniendo el desembarco de la IA en un sector creativo como el del diseño y la moda. Charlamos con la directora creativa de la semana de la moda madrileña, con MODELIA, una app que genera entornos e identidades visuales para que los diseñadores exhiban sus creaciones... y también les escuchamos a ellos, a los propios diseñadores.
El Congreso ha podido convalidar, esta semana, un paquete de ayudas para Ceuta de 309 millones de euros. De la ciudad autónoma -que sigue marcando la agenda-, hablamos en profundidad con el vicepresidente primero del Gobierno, Carlos Cuerpo. E insiste en que hay que apoyarla económicamente por todos los medios "para evitar que la incertidumbre económica no se sume a la incertidumbre generalizada o, incluso, al miedo que pueden estar pasando los ciudadanos ceutíes". "Pero no es toda la respuesta que tenemos que proveer", añade, "necesitan saber que vamos a poner todo sobre la mesa. Al final, todo se traduce en el mensaje que dio el presidente: que Ceuta es España en la frontera. No, la frontera de España. Que los servicios públicos, la actividad, es decir, la realidad de vivir en Ceuta debe ser exactamente la misma que en la península o la que tiene cualquier ciudadano europeo". Las ayudas aprobadas, que se liberarán a principios de octubre y durante cuatro meses, "irán allí donde hemos observado que existen necesidades a corto plazo para avanzar en la resolución de la crisis". Pide a toda la clase política, también a la oposición, incluso a los socios europeos, "responsabilidad para que haya soluciones realistas" a la situación que aún sigue sufriendo la ciudad autónoma, aunque la bronca ha continuado a raíz de los últimos traslados de migrantes al puerto de Ceuta. Con la ronda de negociaciones de los presupuestos generales para 2027 también ya en marcha, el también ministro de Economía subraya que "en estos últimos años, hemos estado en un escenario de presupuestos prorrogados, pero no ha habido estancamiento. Todo lo contrario. Dicho esto, vamos a presentar los presupuestos y a intentar cerrar las cifras, para aprobarlos". En plena última fase de los Fondos de Recuperación -"una evaluación positiva nos debe llevar al último desembolso, de 26.000 millones de euros"-, Cuerpo destaca la fortaleza de nuestra economía -"Hemos conseguido cifras récord en materia de afiliación, en mejora de los salarios... pero esto no quiere decir que no haya ninguna familia que se enfrenta a dificultades"- y reconoce que la vivienda es el reto entre los retos: "porque afecta a la economía, a la movilidad laboral y a la emancipación de los jóvenes". Con el vicepresidente, abordamos asimismo la incertidumbre global tras el último conflicto en Oriente Medio y, entre otros, el debate en torno a la Inteligencia Artificial. Sin embargo, en el ambiente preelectoral en el que nos encontramos, hay una discusión en la que el vicepresidente apenas entra. Tiene que ver con una hipotética candidatura electoral: "yo soy un jugador de equipo y todo mi esfuerzo está en sacar adelante esta agenda de progreso. Necesitamos que alguien lidere ese proyecto y (Pedro Sánchez) lleva ocho años haciéndolo y, por supuesto, que le vamos a apoyar".
