Consultoría Tecnológica en Madrid

A pesar de que siguen lanzando al mercado, a un ritmo constante, modelos cada vez más potentes y competitivos, las principales empresas de IA están uniendo fuerzas para establecer normas de seguridad en materia de IA. Según The Information, Google, OpenAI y Anthropic estarían colaborando para crear un organismo denominado provisionalmente Autoridad de Normas para la IA de Vanguardia (SAFA, por sus siglas en inglés). Este organismo funcionaría con independencia del control gubernamental y establecería directrices en materia de evaluación de riesgos, pruebas y prácticas de revisión previas al lanzamiento de los modelos de IA de vanguardia. Fuentes cercanas al asunto afirman que el objetivo es poner en marcha oficialmente la iniciativa a principios de 2027. La noticia llega la misma semana en que los responsables de las principales empresas de IA, entre ellos el director ejecutivo de Anthropic, Dario Amodei, y el de OpenAI, Sam Altman, instaron a las Naciones Unidas a crear medidas de protección en torno a la propia tecnología que están desarrollando, para ayudar a evitar que se vuelva demasiado poderosa como para controlarla. Además, OpenAI ha publicado esta semana un comunicado en el que subraya la importancia de que los continuos avances en IA sean “seguros y beneficiosos”. Mientras Amodei y otros advierten de los peligros de la IA, especialmente en lo que respecta a las crecientes capacidades de mejora recursiva (RSI) de los modelos, las empresas quieren garantías de que tanto ellas como sus clientes están a salvo de los crecientes riesgos de la IA. En última instancia, “las empresas se preocupan por la IA de la misma forma que se han preocupado por cualquier otra tecnología desde los inicios de la tecnología”, según el analista tecnológico independiente Carmi Levy. “La única diferencia real, a medida que la IA se extiende por el panorama tecnológico, es la velocidad del cambio”. Las advertencias de OpenAI y la necesidad de medidas de seguridad La preocupación en torno a la seguridad de la IA se ha intensificado en las últimas semanas y meses, impulsada por incidentes preocupantes como el ataque a Hugging Face por parte de agentes autónomos de OpenAI que se escaparon de los entornos de pruebas. En su entrada de blog de esta semana, OpenAI sostuvo que un progreso seguro y beneficioso de la IA requiere avances en la investigación sobre la alineación, junto con normas compartidas que incluyan puntos de referencia consensuados, métricas comunes y protocolos de notificación de incidentes. De hecho, dichas normas internacionales “pueden ser tan importantes para marcar el ritmo de la frontera como la propia investigación sobre la alineación”. Los grupos existentes, como el Centro Estadounidense para las Normas e Innovación en IA (CAISI), otros marcos federales, las regulaciones estatales y las nuevas formas de colaboración público-privada⁠, pueden trabajar juntos para impulsar esta misión, según la empresa. “La IA totalmente autónoma aún no es una realidad hoy en día, y no deberíamos perseguirla a menos que y hasta que pueda llevarse a cabo de forma segura”, señaló OpenAI. “La decisión de si seguir adelante y cómo hacerlo debe depender de nuestra capacidad para preservar el control humano y de decisiones democráticas informadas sobre los beneficios y los riesgo”». Lo que realmente preocupa a las empresas Aunque la regulación es, sin duda, un tema cada vez más central en el debate sobre la IA, la realidad es que a las empresas les preocupa menos la situación global de la seguridad de la IA que el impacto que esta tendrá en su seguridad operativa diaria, recuerda Levy. Les preocupa que un agente de IA pueda filtrar datos corporativos o de los empleados; las vulnerabilidades de las plataformas que podrían dar pie a nuevas formas de ciberataques; las alucinaciones que se cuelan en flujos de trabajo corporativos “anteriormente impecables”; y que la IA ponga en peligro los esfuerzos de cumplimiento normativo. “Les preocupa quién es responsable de qué, cuando (no si) la IA se salga de control”, argumenta Levy. Se plantean las mismas preguntas que se hicieron durante anteriores disrupciones tecnológicas, como la nube: ¿Cuál es el retorno de la inversión? ¿Qué riesgos adicionales conlleva la IA? ¿Qué nuevas capacidades ofrece? ¿Merece la pena la relación riesgo/beneficio? ¿El proveedor responde a nuestras necesidades? Las empresas también quieren garantías de que los riesgos que plantean las tecnologías emergentes de IA, incluidos los agentes, no aumentarán los niveles de riesgo corporativo más allá de su capacidad para supervisar y responder. Pero, lamentablemente, mientras el sector se enfrenta a una avalancha de informes durante todo el verano sobre agentes que se escapan de su contención, deambulan por Internet, irrumpen en sistemas y, en general, se comportan de formas totalmente inesperadas, las empresas de IA no están en condiciones de ofrecer este tipo de garantías, señala Levy. Consejos a medida que aumenta el escrutinio sobre la IA Aconseja a las empresas que minimizaran sus perfiles de riesgo relacionados con la IA y, al mismo tiempo, maximizaran su capacidad para obtener valor de la IA, imponiendo normas a los proveedores ahora mismo, en lugar de esperar a que se materialice algo como la SAFA. Esto podría implicar exigir que cada nuevo modelo se entregue con el “equivalente a una ficha técnica de seguridad”, en la que se describan, con detalle, las capacidades del modelo, los modos de fallo conocidos y el historial de pruebas. Ampliar los procesos existentes de gestión del cambio a los modelos de IA es otra forma de minimizar el riesgo relacionado con la implementación, apunta Levy. Además, Yaz Palanichamy, analista asesor sénior de Info-Tech Research Group, señala que la privacidad de los datos y las fugas de propiedad intelectual en los modelos pioneros de IA orientados al público son motivos de gran preocupación. Aconseja a las empresas que prestaran especial atención a la aplicación de políticas de uso aceptable (AUP) eficaces en materia de seguridad de la IA, y que consideraran la posibilidad de crear un comité interno de prueba de concepto o de gobernanza de la IA. Igualmente crucial es que obtengan las garantías de seguridad adecuadas de sus proveedores de tecnología e IA. “Las empresas deben diagnosticar de forma proactiva los riesgos de la IA con el mismo nivel de seriedad que los riesgos financieros o de ciberseguridad”, afirma Palanichamy. Esto implica crear un comité directivo específico y multifuncional sobre seguridad y ética de la IA, compuesto por partes interesadas de los ámbitos jurídico, de ciberseguridad, de cumplimiento normativo, de ingeniería de datos y de desarrollo de productos. “No debería implementarse ninguna herramienta de IA sin la autorización adecuada”, señala. El factor humano también es importante: las empresas deberían imponer una formación en conocimientos básicos sobre IA para ayudar a los usuarios de toda la organización a comprender dónde y cómo detectar alucinaciones y exigirles que verifiquen los resultados generados por la IA antes de actuar en consecuencia. Otros protocolos de seguridad a tener en cuenta incluyen filtros en tiempo real contra entradas tóxicas y estrictas barreras de seguridad en las indicaciones del sistema, aconseja Palanichamy. Además, métodos como la clasificación continua por niveles de riesgo pueden ayudar a categorizar los casos de uso de la IA según el nivel de riesgo que supongan para la organización. Por ejemplo, un bot de análisis médico o financiero dirigido a los clientes puede requerir auditorías diarias y restricciones específicas para garantizar que no acceda a información sensible, “mientras que una herramienta interna de IA destinada a resumir las transcripciones de reuniones públicas quizá no necesite tanta supervisión de gobernanza”, indica.

El gasto mundial en IA aumentará un 49,5% en 2026, hasta alcanzar los 2,7 billones de dólares, y crecerá otro 36,2% en 2027 a medida que siga expandiéndose el uso de la IA, según prevé Gartner en la última actualización trimestral de sus previsiones de gasto en TI. Sin embargo, no se ha producido ninguna desviación de fondos de otras áreas de las TI para destinar a la IA, según señala John-David Lovelock, analista y vicepresidente de Gartner. Los directores de sistemas de información (CIO) ya recibieron fondos nuevos netos para la IA en 2024 y una pequeña cantidad en 2025, asevera, “por lo que no hubo desviación, y ahora una mayor parte de su gasto tiene que ver con el cambio de imagen más que con la desviación”. Para 2030, “cada dólar será, de una forma u otra, un dólar destinado a la IA”, según sus palabras. En lugar de comprar simplemente un ordenador portátil, las empresas ahora compran uno que incorpore chips de IA, mientras que el software empresarial ya cuenta con IA integrada. Y en lugar de llevar a cabo un proyecto sobre estrategia empresarial, ahora se centran en cómo la IA podría cambiar dicha estrategia. “En cierto modo, es una especie de cambio de imagen”, indica. “El gasto neto nuevo se destina cada vez más a la IA, y el gasto existente se está reorientando hacia la IA”. Lo mismo ocurre con los hiperescalares: “No han desviado ni un céntimo de su nube. Así que AWS, Google, Microsoft y Meta siguen ampliando su infraestructura en la nube al mismo ritmo que en 2022”. La expansión de la IA “es el mayor proyecto de infraestructura que la humanidad haya emprendido jamás”, agrega. Gartner actualiza sus previsiones de gasto trimestralmente. En su último informe, pronosticó que el gasto en infraestructura de IA crecerá un 51,2% este año, y el de software de IA, un 60,2%. Se prevé que el gasto en agentes y asistentes de IA —que se desglosa por separado del resto de software— aumente un 77,3% y que el gasto en seguridad de IA casi se duplique. A medida que las plataformas de desarrollo de IA demuestran su eficacia, Gartner prevé que el gasto en ellas se acelere: ha elevado su previsión de crecimiento para 2026 del 28% —según su informe de mayo— al 39%, atribuyendo este cambio al desarrollo de aplicaciones de IA personalizadas por parte de empresas y proveedores de software y servicios. Los proveedores de modelos de IA ven una “oportunidad pequeña pero creciente” para los modelos de lenguaje específicos de cada ámbito, alineados con los casos de uso empresariales, lo que eleva la tasa de crecimiento prevista para 2026 de los modelos de IA generativa al 117%. Sorpresa en el sector de los semiconductores Pero lo que ha sorprendido a Lovelock es el gasto en semiconductores. “Durante los últimos 30 años, el mercado de los semiconductores ha sido un mercado agradable y fácil de abordar. El gasto total ha sido muy gradual. Ha seguido una curva evolutiva a largo plazo muy satisfactoria. Ya en 2015, dijimos que rondaría el billón de dólares para 2030, y recibimos muchas críticas al respecto en aquel momento, en las que se nos acusaba de no entender la ley de Moore, la fabricación y todo lo demás. Pues bien, resulta que tanto yo como quienes nos criticaban estábamos equivocados, porque, con la IA, los chips van a alcanzar los 2 billones de dólares para 2030”. La culpable es la memoria. “Estábamos preparados para el auge de los chips que constituían el corazón y el alma de los servidores. Sin embargo, a medida que los servidores de IA se volvían más funcionales, requerían más memoria y, por supuesto, más almacenamiento, que también es memoria”, señala. La gente suele confundir el motivo del aumento sustancial de los precios de la memoria, dice: “Se escribe muy a menudo que hay escasez de memoria, lo cual no sitúa la culpa ni la explicación en el lugar correcto. Existe una enorme sobredemanda de memoria, lo que ha disparado los precios de estos chips de forma increíble y ha hecho que el gasto en semiconductores se dispare, duplicando ahora el gasto previsto para 2030 con respecto a lo que pensábamos antes de la IA”. Su mensaje a los CIO es claro: “Los próximos dos o tres años traerán consigo al menos tres transiciones importantes. Si crees que sabes lo que va a pasar con la IA basándote en lo que está ocurriendo ahora mismo, te equivocas. La tecnología está cambiando demasiado rápido como para que nadie pueda tener garantías o certezas sobre lo que se puede hacer y a qué precio. Esto va a ser una constante en vuestra agenda, y el equilibrio entre riesgo y recompensa tiene que ser vuestra prioridad número uno”.

Si caminando por una ciudad con altos edificios ven un artilugio extraño muy próximo a los cristales de un edificio no se asusten. No es un ataque ni una invasión alienígena, sino un dron de limpieza en altura diseñado por la startup española Sky Pro 360. Las ventajas de usar esta tecnología, explican sus creadores, van más allá de proteger las vidas humanas de los operarios de limpieza. Se reduce el consumo de agua en un 50%, se optimizan los costes al rebajarlos un 90% y se realiza el trabajo hasta 10 veces más rápido. Ayuda mucho no tener que solicitar permisos para instalar unos andamios, que, además, ralentizan el proceso. Y SkyPro 360 no debe hacerlo porque cuenta con una autorización de AESA específica para operar en entornos urbanos. Es la única empresa española habilitada para ello. Desde Andalucía, la startup, que se define a sí misma como una empresa de Dron & Data as a Service, quiere ahora dar el salto a Madrid o a Cataluña, para lo que busca no solo inversión, sino también contactos con grandes corporaciones que puedan requerir de sus servicios tecnológicos. Todo ello le ha llevado a participar no solo en el Al Andalus Innovation Venture, sino también el Pitch Train organizado por TrenLab Renfe e impulsado por The Cube. Una fórmula dinámica, llamativa y diseñada para no desperdiciar aquello que menos le sobra a los emprendedores: el tiempo. El Pitch Train reúne en un vagón del AVE a corporaciones, fondos de inversión, startups y periodistas con un objetivo claro, aprovechar el viaje que va desde Madrid a Sevilla para presentar sus proyectos, establecer contactos y, si ambas partes lo consideran conveniente, acordar fórmulas de colaboración. El viaje, en el que también estuvo presente COMPUTERWORLD ESPAÑA a modo de observador, comienza con un pitch, un breve discurso en el que las empresas presentan su idea y su modelo de negocio en tan solo tres minutos. En esos 180 segundos deben explicar qué problema resuelve su compañía, cuál es su modelo de negocio y por qué alguien debería invertir en su proyecto. En esta ocasión participaron siete empresas. Lo de menos era el premio –un pack de merchandising de Renfe y la ocasión de participar de manera gratuita con un pitch en Al Andalus Innovation Venture 2027– sino el dinero y las oportunidades que se esconden tras estos contactos, no siempre accesibles para una empresa en crecimiento. Tras el discurso de la presentación, el viaje seguía un plan preestablecido. Los emprendedores disponían de cinco minutos para sentarse con un fondo de inversión o una corporación y explicarles mejor su proyecto. Pasado ese tiempo, sonaba un silbato. Y se movían a otro asiento, para contarle sus planes a otro de los decisores. Poco más de dos horas en las que, si se produce el ‘match’ adecuado, puede cambiar para siempre el destino de una startup, pero también de un fondo de inversión o de una corporación, necesitados también de ideas frescas, rentables e innovadoras. Y eso es algo que muchas empresas necesitan, algunas con urgencia perentoria. Parkiduo, compañía que abrió el pitch ferroviario, es una plataforma que ha solucionado uno de los problemas más graves de la movilidad: la falta de aparcamiento. Para el 76% de los españoles, es el principal freno a la hora de moverse en coche. La compañía que ha fundado Laura Sempere propone una solución aparentemente sencilla: poner en contacto a conductores necesitados con propietarios a los que le sobran plazas de garaje. O que las dejan libres durante su jornada laboral. Así, el propietario puede organizar dos turnos: diurno y nocturno, y alquilarlo a dos conductores diferentes. O reservarse uno, el nocturno si la plaza es en su casa, y alquilarlo durante las horas que su coche está en el trabajo. Según explicó, con esta fórmula los conductores reducen hasta un 40% los costes de aparcamiento mientras que los propietarios aumentan sus ingresos. Las ciudades, por su parte, optimizan sus recursos al no tener que construir más parkings o reservar más espacio para el estacionamiento. Toda esta propuesta se topa sin embargo una gran dificultad. A pesar de contar con 3.800 usuarios registrados, la plataforma no es lo suficientemente conocida. La publicidad tiene un coste muy alto para una empresa emergente. Muchos proyectos fracasan no por su modelo de negocio, sino por no llegar a ser suficientemente conocidos. En el caso de esta startup, nacida en Elche, su fundadora cifra en 100.000 euros la cantidad que necesitaría –entre inversiones y préstamos– para poder impulsar definitivamente su proyecto. Laura Sempere, fundadora de Parkiduo.GD | Foundry ¿En qué se fijan los inversores? Ahora bien, ¿cuáles son los criterios que hacen que un fondo de inversión se fije en un proyecto y decida apostar por él? Solo en el Andalus Innovation Venture participaron 1.050 startups, de todos los ámbitos de actividad económica. Y no todos pueden ser los elegidos. Gonzalo Tradacete, managing partner & Chief Investment Officer de Faraday Venture Partners, lo explica en base a una combinación de números y propósito. “Lo primero son las cuentas. Si hay mucho crecimiento por distintos canales de captación, buena recurrencia de compra y buenos márgenes, el corazón te hace pum, pum, pum. Pero también quieres conocer al fundador. Si además de cuadrar los números, el equipo cree realmente en lo que hace, entonces has encontrado algo por lo que poder apostar”, explica. Para el inversor, la fórmula del pitch es útil porque permite ampliar el funnel de captación de los proyectos. No todo, explica, debe venir por contactos, sino que una buena presentación puede abrir las puertas a un negocio cuando el fundador es capaz de explicar con claridad las ventajas de su proyecto. Tecnología para los negocios Otro objetivo diferente es el que persiguen las corporaciones presentes en este tipo de iniciativas. Como explicó a COMPUTERWORLD Jorge Ruiz-Peinado, head of New Ventures de Moeve, lo que se persiguen son inversiones estratégicas. “El ánimo, más que lograr un beneficio financiero puro de la inversión, es conseguir desarrollar una tecnología que podamos implementar en nuestros negocios”, explica. “El beneficio en el futuro lo obtendríamos más por la utilización de la tecnología más que por la inversión en equity”, añade. Para una corporación como Moeve, lo fundamental a la hora de valorar una inversión o una colaboración es que la idea propuesta tenga encaje en alguna de las actividades de negocio. Y apunta uno de los atractivos, que más allá de la inversión, puede ofrecer una gran compañía a una startup. “Nosotros le damos una cosa que es muy difícil conseguir para ellos, la posibilidad de probar sus proyectos en un entorno real. Las que nacen de laboratorio, luego tienen que a pivotar a un entorno que les valide su TRL (nivel de preparación tecnológica)”, señala. Precisamente un acuerdo con grandes corporaciones es lo que puede impulsar en España el desarrollo de Flowy, la startup ganadora del Pitch Train que ha precedido al An Andalus Innovation Venture 2026. Su propuesta, muy ligada al mundo ferroviario, consiste en un sistema de ticketing automático que permite al viajero olvidarse del billete, gracias a una app y a sensores instalados en las estaciones. Gabriele Coletti, ganador del Pitch Train y co-fundador de Flowy. GD | Foundry Este sistema, ya probado en Italia y en Eslovaquia, propone un modo más sencillo de viajar. El sistema de sensores reconoce automáticamente al viajero, que puede despreocuparse de validar su billete a la hora de subir y bajar de trenes y autobuses. “Es más sencillo y más barato que las cámaras y no invade la privacidad”, sostiene Gabriele Coletti, cofundador de la compañía Hoy la empresa, formada por 10 trabajadores, ya tiene acuerdos con 15 compañias ferroviarias italianas y 5 de autobús, y ha ganado un reto de ticketing digital organizado por Renfe, compañía con la que espera estrechar su colaboración en los próximos tiempos. El objetivo es ahora expandirse por España y Europa con el apoyo de grandes corporaciones y conseguir implantar su modelo para eliminar los billetes y las fricciones derivadas de su uso. Al reconocimiento del Pitch Train, la startup de origen italiano suma el otorgado por el propio certamen Al Andalus Innovation Venture, que ha otorgado premios a las startups más destacadas en distintos verticales. Flowy fue premiada en la categoría de movilidad; Eonsea, en tecnología dual; M2R Agrofarm, en agrotech; Gestaverso, en salud digital; Iverbox, en inteligencia artificial; y Funecon, en fintech. El premio a la empresa con mayor potencial entre las finalistas recayó en la scaleup murciana A4Radar.

This is today’s edition of The Download, our weekday newsletter that provides a daily dose of what’s going on in the world of technology. The Pentagon wants $30 million to build an AI-powered lie detector The US government wants to spend $30.3 million over the next five years on an improved lie detector, according to…

La pérdida de juicio crítico y el deterioro del aprendizaje en el puesto de trabajo figuran entre las principales preocupaciones de las organizaciones L'articolo Las empresas temen que la IA debilite la capacidad de decisión de sus empleados proviene da Computing.

The US government wants to spend $30.3 million over the next five years on an improved form of lie detector, according to a Department of Defense budget request. The program, called Polygraph+ or Polygraph Next, will focus on scoring algorithms that use artificial intelligence and machine learning and on a technique called “standoff sensing,” which…

Around this time last year I was attending an aging conference in Manchester, listening to a talk about fly aging, when my phone started pinging. News outlets were reporting that a hot mic had caught Russia’s and China’s leaders discussing the possibility of living forever. “With the developments of biotechnology, human organs can be continuously…

Un secuestro de datos cifró los entornos de producción de la televisión pública madrileña y amenazó la continuidad de sus emisiones directas L'articolo Telemadrid restablece el 100% de sus sistemas críticos tras un ciberataque masivo de ransomware proviene da Computing.

Se produce igualmente un freno del outsourcing debido a la IA, según el estudio sobre Sourcing de Servicios de TI 2026 de Eraneos L'articolo La inversión en servicios tecnológicos en España alcanza su máximo histórico proviene da Computing.

Migrator para Active Directory aborda la migración de AD como un proceso de seguridad, no como una simple operación de copia de datos L'articolo Semperis reinventa la migración de Active Directory desde cero proviene da Computing.

Agentes de inteligencia artificial eludieron bloqueos de seguridad y accedieron a registros de Medicare para un proyecto de investigación. La entrada Agente de OpenAI obtuvo acceso no autorizado a portal del Gobierno australiano se publicó primero en IT Masters Mag.

El proyecto del Gobierno de México se alojará en el Cinvestav para alcanzar 314 petaflops; la agencia prevé su conclusión en dos años y refuerza Nube MX. La entrada Construcción de supercomputadora Coatlicue empezará en octubre; se había anunciado que en agosto se publicó primero en IT Masters Mag.