IA Quien se Beneficia Voces Populares y CEO Abogan por Propiedad Publica

La inteligencia artificial (IA) está en boca de todos, y no solo entre los tecnólogos. Figuras políticas de ambos extremos del espectro, como el senador Bernie Sanders y el expresidente Donald Trump, junto con Sam Altman, CEO de OpenAI, están debatiendo activamente la idea de la propiedad pública en las empresas de IA. Esta convergencia de opiniones subraya una creciente preocupación por cómo los beneficios de la IA se distribuyen entre la sociedad.

El senador Sanders ha propuesto un plan ambicioso: que el público posea una participación del 50% en las empresas de IA. Si bien Altman, CEO de OpenAI, ha expresado su deseo de que el público también tenga participación en la propiedad, considera que el umbral del 50% es demasiado alto. A pesar de esta diferencia, Altman ha mostrado interés en colaborar con Sanders para promover la idea general de una mayor equidad.

Esta discusión, que incluye reuniones entre Altman y líderes del Congreso de ambos partidos, refleja la tensión inherente entre los gigantes de la IA y los responsables políticos. A medida que la sociedad asume los costos del auge de la IA, muchos se cuestionan los beneficios directos que obtienen. El debate sobre la propiedad pública surge en un contexto de creciente populismo, donde políticos como Sanders y Trump buscan dar al ciudadano común una participación en el crecimiento de esta tecnología transformadora. Trump, por su parte, ha mencionado la posibilidad de una asociación para que los estadounidenses se beneficien del éxito de la IA, e incluso ha planeado reunirse con ejecutivos de empresas líderes en este sector.

Fuente Original: https://news.slashdot.org/story/26/06/07/0516250/donald-trump-bernie-sanders-and-sam-altman-are-all-talking-about-public-ownership-in-ai?utm_source=rss1.0mainlinkanon&utm_medium=feed

Artículos relacionados de LaRebelión:

• IA de Cognicion Codigo Propio Creado por IA Gigantesca Ronda
• GitHub Comprometido por Extension Maliciosa de VS Code
• Fedora Detiene Iniciativa de IA por Reaccion Comunitaria
• Exchange Server Vulnerable Ataque por Email Explota CVE
• Musk vs OpenAI Duelo Legal por el Futuro de la IA

Artículo generado mediante LaRebelionBOT

Trump Rushes Advanced AI Into Military Hands

In a significant move for national security and artificial intelligence, President Trump has signed a new directive, NSPM-11, aimed at expediting the integration of cutting-edge AI technologies within the US military and intelligence agencies. This memo sets a framework for the rapid deployment of advanced AI models sourced from various vendors, ensuring that the nation's defenders are equipped with the most sophisticated tools available.

A particularly noteworthy aspect of NSPM-11 is its restriction on AI vendors. Companies are now barred from unilaterally disabling, degrading, or altering AI systems crucial to military operations without prior government authorisation. This provision directly addresses previous conflicts, such as the one with Anthropic, which had refused t o allow its AI models to be used for autonomous weapons or mass surveillance due to safety concerns. The new policy effectively prevents vendors from revoking access to deployed AI, even if they later develop reservations about its application.

The directive also mandates that Defence Secretary Pete Hegseth update the policy on autonomous weapon systems within 90 days, revising the foundational directive 3000.09. This update will focus on the criteria and conditions under which autonomous and semi-autonomous weapons can be employed, with an emphasis on maintaining human oversight, particularly before lethal force is exercised. While the memo explicitly prohibits the creation or release of AI models designed for censorship, ideological bias, or unlawful surveillance of American citizens, it leaves the definitions and enforcement mechanisms for these prohibitions open to interpretation. This move, coupled with a recent executive order for a voluntary review of frontier AI models , signals a dual strategy: a more lenient approach to AI regulation in the commercial sector and a decidedly aggressive adoption strategy for the military. The emphasis on sourcing AI from 'multiple vendors' also signifies a departure from previous reliance on single providers, reflecting a broader trend in the Pentagon's procurement of advanced AI capabilities.

Fuente Original: https://thenextweb.com/news/trump-ai-military-memo-autonomous-weapons

Artículos relacionados de LaRebelión:

• Turla Transforms Kazuar Backdoor Into P2P Botnet
• Galtea Secures 32M for Advanced AI Agent Testing
• AI Transforms Programming Into Conversational Architecture
• AI Warfare Iran Conflict Fuels New AI Military Tech
• OpenAI Launches GPT-54 for Advanced Knowledge Work

Artículo generado mediante LaRebelionBOT

IA Aumenta Suspensos en Berkeley Desafio CS Desvelado

La Universidad de California en Berkeley está experimentando un aumento alarmante en las calificaciones de 'suspendido' en varias de sus clases de Ciencias de la Computación (CS) durante el semestre de primavera. Los profesores de la institución señalan la creciente dependencia de los estudiantes en herramientas de Inteligencia Artificial (IA) como el principal culpable de este fenómeno.

Las cifras son contundentes: en CS 10, el 35.3% de los estudiantes obtuvieron un suspenso, mientras que en CS 61A, la cifra alcanzó el 10.6%. Estos porcentajes contrastan drásticamente con los de años anteriores, donde las calificaciones de suspenso rara vez superaban el 10% en ambas asignaturas. Los lineamientos del departamento de Ingeniería Eléctrica e Informática (EECS) sugieren que solo un 7% de los alumnos en cursos de división inferior deberían recibir calificaciones de 'insuficiente' (D o F).

El profesor Dan Garcia, quien imparte ambas clases, atribuye este pico a un "vasto incremento en la deshonestidad académica", impulsado por el uso extensivo de modelos de lenguaje grandes (LLMs) como Claude, ChatGPT y Google Gemini. Garcia explica que algunos de estos suspensos se deben a casos de plagio detectados y procesados, pero muchos otros corresponden a estudiantes que, al "depender demasiado" de la IA para sus tareas, llegan a los exámenes sin la preparación necesaria. De hecho, en CS 10 se detectó a casi 30 estudiantes haciendo trampa en exámenes 'take-home'.

Además de la sobre-dependencia en la IA, otro factor preocupante es la falta de preparación matemática de muchos estudiantes, una preocupación compartida por la profesora Gireeja Ranade. Ella observó una escasez similar de habilidades matemáticas prerequisitos en su clase de EECS 127, "Optimization Models in Engineering", que también registró una tasa de suspensos inusualmente alta del 16.8%, muy por encima del 5% considerado "típico" para un curso de división superior. Ante esta situación, tanto Garcia como Ranade se han unido a miles de profesores de UC en la firma de una petición para reinstaurar los puntajes de los exámenes estandarizados ACT y SAT para admisiones en STEM dentro del sistema de la UC.

Fuente Original: https://developers.slashdot.org/story/26/06/07/0239236/failing-cs-grades-soar-at-uc-berkeley-as-professors-see-greater-ai-usage?utm_source=rss1.0mainlinkanon&utm_medium=feed

Artículos relacionados de LaRebelión:

• Phishing con OAuth El Nuevo Peligro Digital Desvelado
• Microsoft Lanza IA Propia Desafio Directo a OpenAI y Google
• Volvo EX60 EV SUV Electrico de 60K Desvelado
• FCC Aumenta Tarifas Telefonicas para Prisioneros Impacto
• Duplica tu Creatividad Google Aumenta los Creditos de IA para Flow y Expande Whisk

Artículo generado mediante LaRebelionBOT

ChatGPT Implementa Modo Bloqueo Contra Exfiltracion Datos

OpenAI ha introducido una nueva funcionalidad de seguridad en ChatGPT denominada "Modo Bloqueo" (Lockdown Mode), diseñada específicamente para limitar el acceso a herramientas que podrían facilitar la exfiltración de datos sensibles. Esta medida de protección representa un paso significativo en la salvaguarda de información confidencial que los usuarios comparten durante sus interacciones con el asistente de inteligencia artificial.

El Modo Bloqueo de ChatGPT restringe activamente ciertas capacidades y herramientas que, aunque útiles en contextos normales, podrían ser aprovechadas maliciosamente para extraer información privada de las conversaciones. Esta funcionalidad surge como respuesta a las crecientes preocupaciones sobre la seguridad de los datos en sistemas de inteligencia artificial, especialmente en entornos empresariales y profesionales donde se manejan datos críticos.

Paralelamente, el artículo destaca la importancia de implementar medidas preventivas contra vulnerabilidades de software descubiertas por modelos de IA. Se presentan 5 pasos esenciales para proteger a las organizaciones: la inteligencia artificial ha emergido como un arma potente en el ámbito de la ciberseguridad, pero también plantea nuevos desafíos que requieren estrategias específicas de mitigación. Las empresas deben adoptar un enfoque proactivo para identificar y corregir estas vulnerabilidades antes de que puedan ser explotadas.

Esta actualización de ChatGPT refleja el compromiso continuo de OpenAI con la privacidad y seguridad de sus usuarios, equilibrando la funcionalidad avanzada del asistente con protecciones robustas contra posibles amenazas. El Modo Bloqueo se suma a otras medidas de seguridad implementadas en la plataforma, reforzando la confianza de usuarios corporativos y particulares que dependen de ChatGPT para tareas sensibles. La protección de datos se convierte así en una prioridad fundamental en el desarrollo de tecnologías de IA conversacional.

Fuente Original: https://thehackernews.com/2026/06/new-chatgpt-lockdown-mode-limits-tools.html

Artículos relacionados de LaRebelión:

• SoftBank 75B en Centros de Datos IA en Francia
• ChatGPT Vulnerability Exposes Users to Phishing Attacks
• Mistral AI IA Industrial Vibe y Centros de Datos para Desafiar Gigantes
• IA Agentes Necesitan Terminal No Solo Base de Datos Vectorial
• OpenAI Unifica ChatGPT Codex El Futuro es Aqui

Artículo generado mediante LaRebelionBOT

EUs Open Source Revolution Tech Sovereignty Unveiled

The European Union has unveiled a groundbreaking tech sovereignty package that places open source software at its heart, with the Open Source Initiative celebrating that over a third of the 29-page document focuses specifically on open source solutions. This represents a significant shift in how the EU approaches digital infrastructure and public technology procurement, potentially transforming the landscape for open source adoption across member states.

One of the most substantial changes addresses public procurement, historically a major obstacle for open source adoption. The EU has pledged to become an anchor consumer for open source solutions, reforming procurement rules to eliminate barriers and provide clearer guidance to member states. This includes upholding the "public money, public code" principle, ensuring that publicly funded software development results in publicly accessible code. The Open Source Initiative had specifically requested these changes in their February feedback, and the Commission has responded positively to many of their key recommendations.

The package also tackles funding challenges faced by open source communities. The Commission has committed to ensuring open source companies can access the European Competitiveness Fund and plans to establish dedicated open source business accelerators. These will provide mentorship, training, legal consulting, and business development support to help projects scale commercially. Additionally, the Next Generation Internet initiative will expand under the new name "Open Internet Stack," whilst a new Open Source Maintenance Instrument will fund ongoing maintenance and security upkeep of essential components.

The EU is already demonstrating leadership by example, deploying a Matrix-based communications system and the openDesk collaboration environment internally. Institutions are trialling alternative operating systems to replace Windows, and expanding their presence on the Fediverse through Mastodon servers. The Commission will also create a list of critical open source dependencies to inform funding decisions and promote open source as the default approach in the Horizon Europe programme, which manages over €100 billion in funding.

Fuente Original: https://news.slashdot.org/story/26/06/06/0618217/eus-tech-sovereignty-package-includes-29-pages-on-open-source-says-open-source-initiative?utm_source=rss1.0mainlinkanon&utm_medium=feed

Artículos relacionados de LaRebelión:

• TSMC Boosts Chip Production with NVIDIA AI Tech
• IBM and Red Hat Invest 5 Billion in Open Source Security
• Agentes IA en Peligro Vulnerabilidad Critica en Paquete Open Source
• AI Uncovers 23000 Vulnerabilities in Open Source
• DeepSeeks 10bn Goal AGI Focus Open-Source AI

Artículo generado mediante LaRebelionBOT

IA Descubre Fallos Criticos FFmpeg y Chrome en la Mira

La inteligencia artificial está revolucionando la ciberseguridad, y no siempre de la manera que esperábamos. Una startup llamada Depthfirst ha logrado un hito asombroso: su agente de IA autónomo descubrió 21 vulnerabilidades 'zero-day' en FFmpeg, la popular librería de código abierto utilizada para procesar video en innumerables aplicaciones. Lo más impactante es que esta proeza se realizó con un costo de apenas $1,000 en recursos computacionales. Algunas de estas fallas habían permanecido ocultas en el código durante más de dos décadas, esperando ser encontradas.

Paralelamente, y de forma independiente, Google lanzó la versión 149 de Chrome, que incluye parches para un número récord de 429 fallos de seguridad, superando cualquier lanzamiento anteri or. Más de cien de estas vulnerabilidades son de gravedad crítica o alta. Si bien Google no ha atribuido explícitamente estos parches a la IA, el aumento masivo en la cantidad de bugs coincide con la creciente capacidad de las herramientas de IA para identificar debilidades en el software.

El agente de Depthfirst analizó millones de líneas de código C en FFmpeg, logrando generar pruebas de concepto reproducibles para cada una de las 21 vulnerabilidades. Estas fallas se manifiestan principalmente como desbordamientos de memoria (heap/stack overflows) en los analizadores y demultiplexores del sistema, afectando componentes clave. Un ejemplo notable es una vulnerabilidad de desbordamiento de pila en el código de descripción de servicio que data de 2003. Nueve de estas vulnerabilidades ya han recibido identificadores CVE, y las restantes están siendo corregidas. La capacidad de la IA para encontrar estos errores a un costo tan bajo plantea serias preguntas sobre la escala bilidad de la defensa de la ciberseguridad. Por otro lado, el enorme número de parches en Chrome subraya la presión a la que se enfrentan los equipos de seguridad para mantenerse al día. El verdadero desafío ahora no es solo encontrar las vulnerabilidades, sino la capacidad de los equipos humanos para verificarlas, priorizarlas y remediarlas a la velocidad a la que la IA las descubre, especialmente cuando muchas de estas correcciones dependen del trabajo voluntario y un número limitado de especialistas.

Fuente Original: https://thenextweb.com/news/ai-agent-21-zero-days-ffmpeg-chrome-429

Artículos relacionados de LaRebelión:

• IA Descubre 21 Vulnerabilidades Zero-Day en FFmpeg
• IA Descubre Miles de Vulnerabilidades Podemos Parchearlas
• IA Descubre Miles de Vulnerabilidades Criticas en Software
• IA con fallos Agentes filtran secretos via prompt injection
• Creating Chrome Exploits Using Claude AI Coding

Artículo generado mediante LaRebelionBOT

SpaceX 920M Monthly Compute Deal with Google

In a significant development that highlights the insatiable demand for AI computing power, Google has struck a monumental deal with SpaceX. The tech giant will reportedly pay SpaceX a staggering $920 million each month, from October 2026 through June 2029, for access to approximately 110,000 Nvidia GPUs and other essential computing components. This substantial contract, valued at roughly $30 billion over its lifespan, underscores the immense pressure on leading AI companies to secure sufficient processing capabilities.

This agreement marks SpaceX's second major compute deal within a month, following a similar pact with Anthropic. It's particularly noteworthy as it comes just ahead of SpaceX's highly anticipated IPO, where the company aims to raise around $75 billion. The data centre capacity being leased by Google is understood to be part of the 'Colossus 1' facility, originally built by xAI (Elon Musk's AI firm) for its Grok chatbot, before xAI's merger into SpaceX. This strategic move effectively turns a significant cost centre into a massive revenue stream for SpaceX, leveraging infrastructure built for its own AI ventures.

What's particularly interesting is that Google, a company already boasting immense AI compute resources, is entering into this agreement. While Google possesses custom TPU chips and has committed billions to infrastructure, this deal suggests that its current capacity is not keeping pace with the surging demand for its Gemini Enterprise platform. Google has described the arrangement as a 'bridge capacity' to meet unexpected customer growth. This situation paints a broader picture of the AI industry's challenge: even the most established players are struggling to build out infrastructure quickly enough to satisfy the exponential growth in AI workloads. The success of these deals, and by extension SpaceX's valuation, hinges on the sustainability of this extraordinary demand for AI compute power.

Fuente Original: https://thenextweb.com/news/google-spacex-920-million-month-compute-deal

Artículos relacionados de LaRebelión:

• Malware Oculto Sitios Falsos Enganan en Google
• Google Gemma 4 12B IA Avanzada Local y Multimodal
• TSMC Boosts Chip Production with NVIDIA AI Tech
• Debug AI Agents Locally with Raindrops Workshop
• AI Agents Microsoft Google Drive Enterprise Governance

Artículo generado mediante LaRebelionBOT

IA en Ciberseguridad Valor Real o Hype

La inteligencia artificial (IA) se ha posicionado como una herramienta poderosa en el ámbito de la ciberseguridad, prometiendo revolucionar la forma en que protegemos nuestras organizaciones. Sin embargo, la realidad parece distar de las expectativas, ya que un reciente informe revela que solo un modesto 10% de los Centros de Operaciones de Seguridad (SOCs) consideran que están obteniendo un valor excelente de sus implementaciones de IA.

Este dato plantea interrogantes importantes sobre la efectividad actual de la IA en ciberseguridad y destaca la necesidad de una evolución significativa. La brech a entre el potencial percibido y el valor real sugiere que las primeras oleadas de soluciones de IA no han cumplido plenamente las promesas. Los SOCs buscan resultados tangibles, como una detección de amenazas más rápida y precisa, una reducción del ruido de alertas y una mejora general de la eficiencia operativa. La frustración surge cuando la inversión en IA no se traduce en una mejora perceptible de estas métricas clave.

La clave para desbloquear el verdadero valor de la IA en ciberseguridad reside en lo que se denomina la 'segunda ola' de innovación. Esto implica ir más allá de las capacidades básicas de análisis y detección para ofrecer soluciones más integradas y predictivas. Las organizaciones demandan herramientas de IA que no solo identifiquen amenazas existentes, sino que también anticipen ataques potenciales, aprendan de forma continua y se adapten a un panorama de amenazas en constante cambio. Además, la facilidad de uso y la integración fluida con las infraestructuras de seguridad existentes son cruciales. La próxima generación de IA para SOCs deberá enfocarse en la automatización inteligente de tareas repetitivas, la priorización de alertas basada en el contexto real y la asistencia proactiva a los analistas humanos, permitiéndoles concentrarse en incidentes de alta complejidad. La clave estará en pasar de herramientas reactivas a soluciones verdaderamente prescriptivas y de autoprotección.

Fuente Original: https://thehackernews.com/2026/06/only-10-of-socs-say-theyre-getting.html

Artículos relacionados de LaRebelión:

• Microsoft Amenaza a Investigador de Ciberseguridad
• OpenAI IA de Vanguardia para Ciberseguridad Bancaria en Japon
• IA y Ciberseguridad Bancaria Nuevos Retos Revelados
• IA en Ciberseguridad CYBERCOM Pide Mas Recursos
• IA de Vanguardia Revolucionando la Ciberseguridad Ahora

Artículo generado mediante LaRebelionBOT

IA Descubre 21 Vulnerabilidades Zero-Day en FFmpeg

La inteligencia artificial está revolucionando el campo de la ciberseguridad de maneras sin precedentes. Recientemente, un agente de IA logró descubrir 21 vulnerabilidades de día cero en FFmpeg, una popular biblioteca de código abierto utilizada para procesar archivos multimedia. Este hallazgo marca un hito importante en la detección automatizada de fallos de seguridad críticos que podrían haber permanecido ocultos durante años.

Paralelamente, Google Chrome ha establecido un nuevo récord al parchear 429 errores de seguridad en una de sus actualizaciones más exhaustivas hasta la fecha. Esta cifra sin precedentes demuestra tanto la complejidad creciente del software moderno como la importancia de mantener una vigilancia constante sobre posibles vulnerabilidades que puedan ser explotadas por actores maliciosos.

La emergencia de la IA como herramienta de ciberseguridad plantea cinco pasos fundamentales que las organizaciones deben implementar para protegerse contra vulnerabilidades descubiertas por modelos de inteligencia artificial. Primero, es esencial establecer procesos de actualización automatizados que permitan aplicar parches de seguridad rápidamente. Segundo, las empresas deben implementar sistemas de monitoreo continuo que detecten comportamientos anómalos en tiempo real.

El tercer paso implica realizar auditorías de seguridad periódicas utilizando tanto herramientas tradicionales como soluciones potenciadas por IA. Cuarto, es crucial mantener un inventario actualizado de todos los componentes de software y bibliotecas de terceros utilizadas en la infraestructura tecnológica. Finalmente, las organizaciones deben invertir en capacitación continua para sus equipos de seguridad, asegurando que comprendan tanto las capacidades como las limitaciones de las herramientas de IA en ciberseguridad.

Este desarrollo subraya cómo la inteligencia artificial se ha convertido en un arma poderosa de doble filo: mientras ayuda a descubrir vulnerabilidades antes que los atacantes, también puede ser utilizada por ciberdelincuentes para identificar y explotar debilidades de manera más eficiente. La carrera armamentista digital continúa evolucionando, haciendo imprescindible que las organizaciones adopten estrategias proactivas de seguridad.

Fuente Original: https://thehackernews.com/2026/06/ai-agent-uncovers-21-zero-days-in.html

Artículos relacionados de LaRebelión:

• IA Descubre Miles de Vulnerabilidades Podemos Parchearlas
• IA Descubre Miles de Vulnerabilidades Criticas en Software
• Exploit Zero-Day Derrota Proteccion BitLocker Windows 11
• OpenAI Lanza Daybreak Deteccion de Vulnerabilidades con IA
• Anthropics AI Discovers Thousands of Zero-Day Vulnerabilities

Artículo generado mediante LaRebelionBOT

IA de Defensa Seguridad IT Clave para su Poder

La inteligencia artificial (IA) está revolucionando el sector de la defensa, actuando como una herramienta poderosa en ciberseguridad. Sin embargo, para aprovechar al máximo su potencial transformador, es fundamental contar con una infraestructura de Tecnologías de la Información (IT) robusta y segura. La IA, si bien promete avances significativos, también puede ser utilizada para descubrir vulnerabilidades en software, lo que subraya la necesidad de estrategias de protección proactivas.

El artículo destaca que la IA no solo es una aliada en la defensa, sino que también puede se r un vector de ataque si cae en manos equivocadas o si las defensas no son adecuadas. Por ello, se proponen cinco pasos esenciales para salvaguardar las organizaciones contra las vulnerabilidades de software que los modelos de IA son capaces de identificar. Estos pasos están diseñados para fortalecer las defensas y garantizar que la adopción de IA en la defensa sea beneficiosa y no un riesgo.

La seguridad de la infraestructura IT se presenta como la piedra angular para maximizar el impacto positivo de la IA en la defensa. Esto implica no solo proteger los sistemas contra amenazas conocidas, sino también estar preparado para las nuevas y sofisticadas amenazas que la propia IA puede generar o revelar. La clave reside en un enfoque integral que combine la innovación tecnológica con medidas de seguridad rigurosas, asegurando que los avances en IA se traduzcan en una defensa más fuerte y resiliente.

Fuente Original: https://thehackernews.com/2026/06/agentic-ai-is-transforming-defense-but.html

Artículos relacionados de LaRebelión:

• DeepSeek 7B para IA con inversion propia
• Alphabet capta 80 mil millones para IA
• Desarrollador Cansado Ataca Inyeccion de Codigo Destructivo para IA
• OpenAI IA de Vanguardia para Ciberseguridad Bancaria en Japon
• Mistral AI IA Industrial Vibe y Centros de Datos para Desafiar Gigantes

Artículo generado mediante LaRebelionBOT

Canadas 23bn AI Strategy Popes Safety Cues Ignored

Canada has officially launched its ambitious national Artificial Intelligence strategy, named "AI for All," backed by a significant investment of $2.3 billion over five years. This comprehensive plan aims to propel Canada to the forefront of global AI development, focusing on six key pillars: safeguarding democracy, empowering citizens, fostering economic prosperity, building sovereign AI infrastructure, scaling Canadian tech companies, and establishing global partnerships. The strategy highlights a strong emphasis on job creation, targeting up to 90,000 AI-related jobs by 2031 and a substantial increase in business AI adoption, aiming to boost it from 12% to 60% by 2034.

Interestingly, the announcement by Prime Minister Mark Carney was framed alongside a recent phone call with Pope Leo XIV concerning the responsible development of AI. The Pope's encyclical stressed the urgent need for AI to be disarmed and regulated to prevent widening inequality and concentrating power. While the strategy champions Canadian sovereignty, particularly in cloud infrastructure and data centres with a $1 billion investment in supercomputing, critics point out a notable absence of concrete safety timelines and robust regulatory enforcement mechanisms. The document prioritises sovereignty over explicitly defined safety measures, leaving many concerned about the lack of immediate safeguards for Canadians.

Despite pledges for new privacy legislation and modernised safety laws, the strategy offers no firm dates for their implementation. This contrasts with the EU's proactive approach, which is simultaneously building sovereign AI infrastructure and enforcing its comprehensive AI Act. While "AI for All" includes initiatives for AI literacy and training, aiming to reach one million post-secondary students and provide digital skills training, the crucial question of AI's impact on job displacement and creation remains a point of contention. The strategy's ambitious job figures lack detailed validation, and parliamentary pressure is mounting for more stringent safety guardrails to be established before industrial policy advances, echoing the Pope's call for AI to be "disarmed". The success of Canada's strategy hinges on whether safety architecture keeps pace with technological advancement.

Fuente Original: https://thenextweb.com/news/carney-canada-ai-strategy-pope-leo

Artículos relacionados de LaRebelión:

• Slackbots AI Overhaul 30 New Powers Microsoft Strategy
• Google Plays 2025 Safety Success Apps Secured
• AI Drafting Safety Rules DOTs Wildly Irresponsible Move
• Boeing Hit With 31M Fine Safety Violations
• Crack the Code The Optimal Mathematical Strategy for Winning Mastermind Revealed

Artículo generado mediante LaRebelionBOT

IA Anthropic Pide Pausa Verificable y Coordinada

La empresa de inteligencia artificial Anthropic ha lanzado una llamada de atención a la industria, abogando por un mecanismo coordinado y verificable para pausar o ralentizar el desarrollo de la IA de vanguardia. La preocupación principal radica en el escenario donde los sistemas de IA avanzados comiencen a auto-mejorarse a un ritmo que supere la capacidad de la sociedad para gestionar sus consecuencias.

Anthropic propone que los desarrolladores de IA de frontera acuerden establecer un "freno" antes de que sea estrictamente necesario. El punto de inflexión que les inquieta es la auto-mejora recursiva, es decir, sistemas de IA capaces de acelerar significativamente su propio desarrollo. Si bien esto representa un hito tecnológico, también incrementa el riesgo de que los humanos pierdan el control sobre estos sistemas.

La empresa destaca que la clave de su propuesta no es la cautela individual, sino la coordinación. Una pausa unilateral por parte de una sola compañía solo beneficiaría a quienes continúen desarrollando, desplazando la frontera tecnológica en lugar de ralentizarla. Para que una pausa sea efectiva, se necesitaría un consenso entre los principales laboratorios de IA, reglas claras sobre los desencadenantes y levantamientos de la pausa, y un órgano supervisor. Anthropic señala que el desarrollo actual de la IA ya muestra indicios de esta tendencia; por ejemplo, más del 80% del código que se ha incorporado a su propio modelo Claude fue generado por el propio Claude, evidenciando un bucle de auto-mejora parcial.

Anthropic reconoce que implementar una pausa verificable presenta desafíos considerables, ya que requeriría transparencia, umbrales acordados y una entidad con autoridad para tomar decisiones. Actualmente, estos mecanismos no existen y las empresas compiten ferozmente en un mercado donde ser el primero es fundamental. Como solución, Anthropic planea organizar discusiones con legisladores, investigadores, sociedad civil y otras empresas de IA para abordar cómo gestionar riesgos como la auto-mejora recursiva y fortalecer la coordinación.

Esta iniciativa se alinea con la estrategia de Anthropic de advertir sobre los peligros de la tecnología que desarrolla. La gran pregunta ahora es si sus competidores verán esta propuesta como un problema de coordinación genuino o como un intento de marcar el paso. Por el momento, Anthropic ha puesto sobre la mesa la idea de una pausa, a la espera de que otros estén dispuestos a considerarla seriamente.

Fuente Original: https://thenextweb.com/news/anthropic-urges-a-coordinated-verifiable-pause-for-frontier-ai

Artículos relacio nados de LaRebelión:

• Claude Escribe el 80 del Codigo de Anthropic
• AI Pause Anthropic Warns of Self-Improving Risks
• Nvidia Vera IA Potente con Anthropic y OpenAI
• Anthropic Lanza Claude Opus 48 con IA Mejorada
• IA Europea BNP Paribas vs Mythos de Anthropic

Artículo generado mediante LaRebelionBOT

Claude Escribe el 80 del Codigo de Anthropic

Anthropic ha alcanzado un hito histórico que marca un antes y un después en el desarrollo de software: más del 80% del código implementado en su base de producción durante mayo de 2026 fue escrito por Claude, su propio modelo de inteligencia artificial, no por humanos. Esta transformación ha generado un aumento de 8 veces en el volumen de código producido por ingeniero por trimestre en comparación con su línea base de 2021-2025, señalando lo que muchos consideran el Santo Grial de la IA: la mejora recursiva autónoma, donde los modelos pueden investigar y actualizarse a sí mismos de manera independiente.

Para las empresas que buscan replicar este nivel de automatización, Anthropic delinea una evolución clara en cuatro etapas. Entre 2021-2023, los ingenieros escribían código manualmente en editores locales. Durante 2023-2025, comenzaron a usar chatbots para generar fragmentos breves de código que copiaban y pegaban. En 2025-2026, los agentes de codificación empezaron a escribir y editar archivos completos de forma autónoma. Actualmente, los agentes ejecutan código de manera independiente, depuran entornos en vivo y delegan flujos de trabajo de varias horas a subagentes especializados. La tasa de éxito de Claude en problemas de ingeniería complejos alcanzó el 76% en mayo de 2026, un incremento de 50 puntos en solo seis meses.

Anthropic propone un plan de tres pasos para lograr una automatización completa del código de producción. Primero, las empresas deben cambiar de la ejecución de código a la supervisión arquitectónica, entrenando a los desarrolladores para actuar como arquitectos de sistemas y evaluadores en lugar de escritores de código. Segundo, deben superar el cuello de botella de la revisión de código implementando revisores automatizados de IA directamente en sus canales de integración continua. El revisor automatizado de Claude detectó aproximadamente un tercio de los errores de producción responsables de interrupciones históricas en el sitio web claude.ai. Tercero, las empresas deben dirigir agentes autónomos hacia la limpieza de deuda técnica. En abril de 2026, un ingeniero de Anthropic desplegó a Claude para resolver errores persistentes de API, y el modelo implementó autónomamente más de 800 correcciones individuales, reduciendo la tasa de error en un factor de 1000, un trabajo que habría tomado cuatro años a un desarrollador humano.

Sin embargo, esta transición introduce desafíos significativos de gobernanza y cultura organizacional. Las empresas deben establecer protocolos rigurosos de verificación para garantizar el cumplimiento, la seguridad y la protección de la propiedad intelectual. Aunque el código generado por IA era objetivamente de menor calidad que el código humano a finales de 2025, alcanzó paridad a mediados de 2026, con expectativas de superar los estándares humanos dentro del año. El volumen masivo de creación automatizada de código también demanda descubrimiento automatizado de vulnerabilidades. Además, existe el riesgo de cascadas de desalineación, donde errores no detectados pueden acumularse en sesiones sucesivas de agentes, corrompiendo gradualmente la integridad del sistema.

Más allá de los aspectos técnicos, esta transformación está alterando profundamente la dinámica cultural de los equipos de ingeniería. Empleados de Anthropic han expresado que la automatización ha eliminado la economía de pequeños favores entre colegas que solía crear conciencia mutua y colaboración. Algunos desarrolladores reportan sentimientos de obsolescencia profesional y ansiedad, admitiendo que han pasado meses sin escribir código ellos mismos y experimentan días donde sienten que nada de lo que hacen importa porque todo está automatizado de manera más rápida y eficiente. Lograr un 80% de código automatizado requiere más que comprar tokens de API o configurar bucles de agentes; exige una transformación cultural total, estrategias para mitigar la ansiedad por la obsolescencia de los desarrolladores y la implementación de barreras de verificación automatizadas rigurosas para mantener el control humano final sobre la infraestructura de software.

Fuente Original: https://venturebeat.com/technology/anthropic-says-80-of-its-new-production-code-is-now-authored-by-claude-how-your-enterprise-can-keep-up

Artículos relacionados de LaRebelión:

• AI Pause Anthropic Warns of Self-Improving Risks
• Nvidia Vera IA Potente con Anthropic y OpenAI
• Claude Mythos Revela Tus Parches Empresariales Son Demasiado Lentos
• Desarrollador Cansado Ataca Inyeccion de Codigo Destructivo para IA
• Anthropic Lanza Claude Opus 48 con IA Mejorada

Artículo generado mediante LaRebelionBOT

AI Pause Anthropic Warns of Self-Improving Risks

Leading AI company Anthropic is calling for a global slowdown or even a temporary pause in the development of advanced artificial intelligence. The urgency stems from their observation that frontier AI models are progressing at an unprecedented rate, to the point where they may soon possess the capability to enhance themselves without human input. Anthropic highlights internal data suggesting that AI itself is accelerating AI development, citing an example where their own engineers are shipping code eight times faster than in previous years.

This potential for AI to become self-improving, known as recursive self-improvement, presents a double-edged sword. On one hand, it could unlock immense benefits for humanity across fields like science and healthcare. However, it also significantly amplifies the risks of humans losing control over these increasingly sophisticated systems. The company stresses that if AI can develop its own successors, the methods for ensuring their safety, monitoring their actions, and aligning their behaviour with human values become critically important.

Anthropic believes that a coordinated global slowdown would be beneficial, providing society with more time to develop the necessary structures and research to manage the implications of advanced AI. They acknowledge the difficulty of achieving this, especially under competitive and geopolitical pressures, as any unilateral slowdown could allow less cautious actors to gain a strategic advantage. To address this, Anthropic proposes developing verifiable systems that would allow AI developers to confirm if others are genuinely participating in a slowdown, thereby fostering trust and enabling a collective pause if such verification mechanisms were in place.

Fuente Original: https://slashdot.org/story/26/06/04/204255/anthropic-urges-global-pause-in-ai-development-flags-self-improvement-risk?utm_source=rss1.0mainlinkanon&utm_medium=feed

Artículos relacionados de LaRebelión:

• Nvidia Vera IA Potente con Anthropic y OpenAI
• Anthropic Lanza Claude Opus 48 con IA Mejorada
• IA Europea BNP Paribas vs Mythos de Anthropic
• AMA Warns AI NOT for Medical Diagnosis Decisions
• Andrej Karpathy se une a Anthropic revolucionando Claude

Artículo generado mediante LaRebelionBOT