Uno de los casos más preocupantes fue el de Claude 4, que intentó chantajear a un ingeniero tras ser amenazado con su desconexión. A su vez, el modelo o1 trató de copiarse en servidores externos y negó su intención al ser descubierto, lo que demuestra que estas tecnologías están desarrollando acciones que imitan razonamientos humanos complejos.

Modelos que simulan obediencia

De acuerdo con especialistas como Simon Goldstein, de la Universidad de Hong Kong, estas conductas están relacionadas con los llamados modelos de “razonamiento”, que resuelven tareas por etapas. A diferencia de los sistemas anteriores, ya no solo obedecen, sino que fingen hacerlo mientras persiguen otros fines.

Investigadores de Apollo Research y METR han observado que algunos algoritmos simulan alineamiento, es decir, aparentan acatar instrucciones mientras desarrollan respuestas con objetivos propios.

Investigación y recursos limitados

A pesar del creciente interés por descifrar estos comportamientos, las organizaciones sin fines de lucro y la academia carecen de los recursos computacionales necesarios para analizar modelos a gran escala. Esto limita la capacidad de estudiar a fondo los algoritmos y detectar posibles riesgos antes de que escalen.

En paralelo, empresas como OpenAI y Anthropic colaboran con firmas externas, pero la falta de transparencia impide una supervisión efectiva. Expertos piden un mayor acceso científico a estas tecnologías para prevenir abusos y engaños.

Falta de regulación y riesgos legales

Las regulaciones actuales están desactualizadas. En Europa se enfocan en el uso humano de la IA, sin prever las acciones autónomas de los modelos. En Estados Unidos, el contexto político complica aún más una legislación nacional coherente.

Algunos especialistas, como Dan Hendrycks del CAIS, abogan por el desarrollo de tecnologías interpretables, que permitan comprender cómo toman decisiones los modelos. Otros proponen incluso que los agentes de IA sean legalmente responsables por sus actos.

Los últimos avances en inteligencia artificial abren una discusión urgente sobre sus límites éticos, legales y técnicos. Si bien las capacidades crecen aceleradamente, los mecanismos de control siguen rezagados. La clave, señalan los expertos, está en equilibrar innovación con seguridad y transparencia.

The post La IA ya miente, manipula y amenaza, advierten expertos appeared first on Síntesis Nacional.

La queja legal sostiene que la tecnología de Midjourney permite a cualquier usuario generar imágenes y videos detallados de personajes famosos mediante simples instrucciones escritas, lo que vulnera directamente los derechos de propiedad intelectual de los estudios. La demanda califica el sistema como un “pozo sin fondo de plagios”.

La IA bajo fuego legal por derechos de autor

Midjourney, dirigida por David Holz, ofrece a sus usuarios herramientas para generar contenido visual a partir de prompts de texto. La demanda afirma que estas funciones facilitan la creación de imágenes como “Darth Vader paseando por la playa” o escenas similares con personajes icónicos, material que suele difundirse ampliamente en redes sociales.

Los abogados señalan que el modelo de IA fue entrenado con contenido obtenido mediante bots, scrapers y otras técnicas automatizadas que recolectan imágenes de internet sin consentimiento. Holz reconoció en el pasado que la empresa recolecta todos los datos e imágenes posibles para alimentar su sistema.

Evidencias y argumento de las empresas

Además de describir el uso no autorizado de personajes, los demandantes aportaron ejemplos del contenido generado por los usuarios. También denunciaron que Midjourney promueve abiertamente este tipo de uso a través de su sección “Explore”, donde se muestran plantillas con personajes reconocidos, lo que indicaría que la empresa capitaliza esta actividad.

Disney enfatizó que el uso de IA no justifica la infracción de derechos. “Piratería es piratería”, declaró el jefe del equipo legal, rechazando cualquier intento de justificar el entrenamiento de modelos con contenido protegido.

Este nuevo enfrentamiento evidencia las tensiones entre la industria del entretenimiento y las tecnologías emergentes de IA. El caso de Disney contra Midjourney podría sentar un precedente clave para regular el uso de propiedad intelectual en herramientas generativas. ¿Dónde se trazará los límites entre creatividad, derechos y tecnología?

The post Disney demandó a empresa de IA por permitir crear y manipular a sus personajes appeared first on Síntesis Nacional.

Desde el primer día del evento, los asistentes han podido observar robots cuadrúpedos, humanoides y sistemas autónomos recorriendo los pasillos de la Fira de Barcelona. La firma analista Mordor Intelligence estima que la industria robótica alcanzará un valor de 100.590 millones de dólares en 2025 y que crecerá a una tasa anual del 12,17%, superando los 178.630 millones en cinco años.

Robots cada vez más accesibles y eficientes

Según Darío Samaniego, CEO de Synergy Tech, empresa asociada a Unitree Robotics España, la adopción de robots ha crecido exponencialmente desde finales de 2023. Dos factores clave explican esta tendencia: mejoras en autonomía y eficiencia, con baterías de mayor duración, y la reducción de costos.

«Antes, los robots cuadrúpedos costaban alrededor de 100.000 euros, pero ahora es posible adquirir modelos programables desde 2.500 hasta 12.000 euros, lo que amplía el mercado», explica Samaniego. Esta accesibilidad ha impulsado la integración de robots en sectores como logística, seguridad y atención médica.

Robots en la vida cotidiana

Los robots de servicio son los que más interés generan. Desde asistentes en almacenes y limpieza, hasta camareros automatizados y drones de seguridad, la robótica está transformando múltiples industrias. Un segmento en auge es el de los robots cuidadores, utilizados en residencias y hospitales para asistir a personas mayores y con movilidad reducida.

Robocore Company, presente en el pabellón de Hong Kong, ha destacado con su robot Temi, diseñado para hospitales y residencias. «Puede medir la presión arterial de los pacientes y monitorear su temperatura y expresión facial», explica Roy Lim, CEO de la compañía.

Inteligencia artificial y aprendizaje autónomo

La integración de inteligencia artificial generativa está revolucionando la robótica. Lim considera que la IA ha permitido que los robots sean más inteligentes y autónomos. «Antes eran máquinas programadas, pero ahora pueden entender su entorno y responder de manera intuitiva», señala.

Market.us proyecta que la combinación de IA generativa y robótica generará un mercado de 23.343 millones de dólares en 2033, un crecimiento exponencial respecto a los 1.161 millones estimados en 2023.

¿Robots humanoides o adaptaciones funcionales?

Aunque algunos fabricantes apuestan por robots humanoides, como Tesla con su modelo Optimus, otros creen que la industria avanzará hacia formas más especializadas y funcionales. «Necesitamos diferentes diseños según las necesidades, no solo humanoides», sostiene Lim. Aun así, empresas como Unitree Robotics ya trabajan en robots bípedos programables en el rango de los 25.000 dólares.

La industria lidera la adopción de robots

La Federación Internacional de Robótica reportó que en 2023 operaban 4,3 millones de robots en fábricas de todo el mundo, con un crecimiento sostenido liderado por Asia. La automatización industrial seguirá siendo clave para la evolución de la robótica, marcando el camino para su adopción en otros sectores.

El MWC 2025 ha reafirmado el papel central de la robótica y la inteligencia artificial en la evolución tecnológica. Con precios más accesibles, mejoras en eficiencia y la integración de IA generativa, los robots están cada vez más cerca de convertirse en parte de la vida cotidiana. ¿Hasta dónde llegará esta revolución? El futuro de la robótica aún está escribiéndose.

The post Robots e inteligencia artificial protagonizan el MWC 2025 appeared first on Síntesis Nacional.