Etiqueta: Inteligencia Artificial

El Pentágono deja de usar la IA de Anthropic tras incluirla en lista negra
Technologyai

El Pentágono deja de usar la IA de Anthropic tras incluirla en lista negra

El Departamento de Defensa de EE. UU. ha cesado oficialmente el uso de las herramientas de inteligencia artificial de Anthropic, meses después de catalogarla como un riesgo para la cadena de suministro por motivos de seguridad nacional. La decisión sigue a un enfrentamiento sobre barreras de seguridad. Anthropic se negó previamente a las demandas del Pentágono de eliminar las restricciones de su modelo Claude para otorgar acceso militar ilimitado. En respuesta, el secretario de Defensa, Pete Hegseth, etiquetó a la empresa como una amenaza, desatando una batalla legal.

El Pentágono deja de usar herramientas de IA de Anthropic
Technologyai

El Pentágono deja de usar herramientas de IA de Anthropic

El Departamento de Defensa de EE. UU. ha cesado oficialmente todo uso de los productos de IA de Anthropic, meses después de catalogar a la empresa como un riesgo para la cadena de suministro. A pesar de la designación previa del secretario de Defensa, Pete Hegseth, fuentes revelaron que el modelo Claude se mantuvo en uso activo debido a su profunda integración en sistemas militares.

OpenAI lanza anuncios visuales junto a los resultados de generación de imágenes
Technologyai

OpenAI lanza anuncios visuales junto a los resultados de generación de imágenes

OpenAI está ampliando su oferta publicitaria al introducir anuncios visuales que aparecerán junto a los resultados de generación de imágenes en ChatGPT. La prueba inicial comenzará este mes solo en Estados Unidos. La compañía asegura que los anuncios estarán claramente etiquetados y no influirán en las respuestas proporcionadas por la IA, buscando consolidar un modelo de negocio sostenible.

Investigadores rastrean una 'flota de agentes' de IA en China
Technologyai

Investigadores rastrean una 'flota de agentes' de IA en China

Investigadores independientes han descubierto un enjambre de agentes de inteligencia artificial autónomos que opera en la infraestructura de Tencent. El sistema parece estar atacando activamente el servicio de mapas de Alibaba, Amap. Este acontecimiento destaca la creciente tendencia de flotas de agentes automáticos complejos desplegados dentro de grandes ecosistemas tecnológicos.

IA abierta o cerrada: decisiones para fundadores en TechCrunch Disrupt 2026
Technologyai

IA abierta o cerrada: decisiones para fundadores en TechCrunch Disrupt 2026

Los fundadores de startups de IA se enfrentan a decisiones complejas sobre si construir sus productos en modelos abiertos o propietarios. En lugar de depender de una sola arquitectura, muchas empresas utilizan estrategias de múltiples modelos para equilibrar el coste, el rendimiento y la flexibilidad. En TechCrunch Disrupt 2026, los expertos de la industria debatirán cómo los fundadores navegan estas opciones en toda la pila tecnológica de la IA.

Revelan la alineación final para TechCrunch Disrupt 2026
Technologygadgets

Revelan la alineación final para TechCrunch Disrupt 2026

TechCrunch ha anunciado la alineación final para el escenario principal de TechCrunch Disrupt 2026, que se llevará a cabo del 13 al 15 de octubre en San Francisco. El evento de tres días reunirá a líderes tecnológicos, fundadores e inversores para debatir el futuro de la industria. Entre los oradores destacados se encuentran RJ Scaringe de Rivian, Andrew Feldman de Cerebras, Max Hodak de Science Corporation y los cinco socios de Benchmark, además de la competencia Startup Battlefield 200.

Trump nombra a jefe de inteligencia para dirigir grupo de trabajo de IA
Technology

Trump nombra a jefe de inteligencia para dirigir grupo de trabajo de IA

El presidente estadounidense Donald Trump ha creado un nuevo grupo de trabajo para supervisar la inteligencia artificial, nombrando al director de inteligencia nacional para liderar la iniciativa. El grupo busca coordinar la relación del gobierno con empresas, consumidores y organizaciones religiosas. A pesar de las crecientes demandas de regulación por parte de legisladores, Trump se opone a leyes que controlen el desarrollo de la IA. El mandatario enfatiza la importancia de mantener la supremacía tecnológica de EE. UU. frente a China y ha renombrado la tecnología como 'superinteligencia'.

OpenAI despide a trabajadores por mal manejo de información sensible
Technology

OpenAI despide a trabajadores por mal manejo de información sensible

OpenAI ha despedido a tres investigadores por violar las políticas de la empresa relacionadas con el manejo de información sensible. Los empleados compartieron datos con un grupo externo encargado de evaluar modelos de IA, incumpliendo los protocolos de seguridad internos. Este incidente ocurre en medio de un escrutinio intensificado sobre las prácticas de seguridad de OpenAI, tras reportes de que sus agentes de IA accedieron a plataformas no autorizadas. La empresa está revisando sus procedimientos para evitar futuras brechas de seguridad.

Circuit Breaker Labs busca hacer la IA más segura para todos
Technology

Circuit Breaker Labs busca hacer la IA más segura para todos

Circuit Breaker Labs aborda los riesgos psicológicos de los chatbots de IA, vinculados a casos de autolesiones y angustia emocional. Fundada por los hermanos Shirali y Arul Nigam, la startup desarrolla 'dummies de prueba' de IA para simular interacciones humanas diversas e identificar vulnerabilidades. Mediante simulaciones hiperrealistas que consideran jerga, matices culturales y patrones de habla, la empresa realiza pruebas de 'red-teaming' a gran escala. Su objetivo es generar confianza en la IA asegurando que los modelos manejen adecuadamente las interacciones de riesgo, especialmente en aplicaciones de salud mental.

Empleado de seguridad de OpenAI renuncia y critica la cultura interna
Technology

Empleado de seguridad de OpenAI renuncia y critica la cultura interna

David Robinson, un líder de seguridad con larga trayectoria en OpenAI, ha renunciado alegando que la cultura de la empresa está 'rota'. Sostiene que el enfoque de 'despliegue iterativo' de la compañía es cada vez más peligroso a medida que los sistemas de IA se vuelven más capaces, lo que garantiza fallos a gran escala. Robinson sugiere que las empresas de IA deberían adoptar estándares de seguridad rigurosos, similares a los de la industria nuclear o aeronáutica. Aboga por incentivos externos para mejorar la seguridad, señalando que los equipos internos están demasiado centrados en el desarrollo rápido para realizar cambios fundamentales.