Anthropic: tú eres el banco de pruebas.

OpenAI acaba de lanzar una métrica masiva: ChatGPT maneja ahora aproximadamente una quinta parte de las consultas de tipo búsqueda que procesa Google. Junto con este salto en el volumen de búsqueda, la base de usuarios semanales de la plataforma explotó de mil millones a 1.2 mil millones en aproximadamente 60 días.

Estos números confirman lo que los ejecutivos de Google han estado sudando en privado. Capturar el 20 por ciento del volumen de búsqueda de Google no es un experimento lindo; es una amenaza existencial para el modelo de negocio más lucrativo en la historia de internet. Los usuarios están evitando por completo los enlaces azules en favor de respuestas directas y sintetizadas.

El cambio de mil millones a 1.2 mil millones de usuarios en dos meses muestra que la curva de adopción sigue acelerándose. Si OpenAI puede mantener esta trayectoria y refinar su recuperación web en tiempo real, el comportamiento predeterminado de internet cambiará fundamentalmente, dejando el SEO tradicional en el olvido.

Google ha implementado nuevos controles que desactivan Gemini, Gemini Notebook, Gemini in Classroom y Google Search por defecto para las cuentas de estudiantes de K-12. El detalle crítico es que las funciones de búsqueda e IA de Google están ahora tan profundamente integradas que las escuelas que intenten prohibir las herramientas de IA podrían, sin querer, perder la funcionalidad básica de búsqueda para sus estudiantes por completo.

Esta es la consecuencia inevitable de introducir la IA generativa en cada interfaz de producto heredado. Al negarse a desvincular sus resúmenes de IA de los resultados de búsqueda tradicionales, Google ha acorralado a los administradores escolares en un ultimátum imposible: exponer a los niños a chatbots de IA no verificados, o cortar su acceso al índice principal de internet.

Es un error no forzado asombroso que abre la puerta de par en par para que los motores de búsqueda alternativos y no basados en IA capturen el mercado educativo. Si Google no ofrece una versión limpia y sin IA de Search para uso institucional, van a perder una gran cantidad de usuarios jóvenes que simplemente crecerán usando un motor de búsqueda diferente por defecto.

Apple ha advertido oficialmente a los inversores en su informe anual sobre la naturaleza impredecible de los agentes de IA. El gigante tecnológico advirtió explícitamente que estos sistemas podrían actuar de maneras no intencionadas, señalando específicamente el riesgo de que la IA complete transacciones sin los permisos adecuados.

Esto no es solo texto legal estándar; es un foco de atención brillante sobre el punto exacto de fricción que frena la economía agéntica. Cuando los modelos de IA pasan de responder preguntas a tomar acciones, la superficie de ataque se expande exponencialmente. Apple está reconociendo públicamente que dar a un LLM acceso a la billetera o a los permisos del sistema de un usuario es una responsabilidad masiva.

El hecho de que Apple esté señalando esto a los accionistas significa que están muy enfocados en aislar sus próximas funciones de agente. Cualquiera que esté construyendo agentes autónomos debe prestar atención a esta advertencia: si Apple está aterrorizada por las transacciones fraudulentas, el agente de tu startup debe tener barreras de permisos a prueba de balas.

Lauren Tan, ingeniera de SpaceXSI, está echando un jarro de agua fría sobre la idea de que podemos automatizar completamente el control de calidad. Al discutir los límites de la verificación de IA, Tan afirmó que su propósito es simplemente "dar confianza en el trabajo de los agentes". Crucialmente, reconoció que este proceso de verificación "es solo una aproximación y aún puede ser incorrecto".

Esto va al meollo del debate actual sobre los agentes. Estamos superponiendo IA sobre IA, esperando que el segundo modelo detecte las alucinaciones del primero. Pero como señala Tan, la capa de verificación está sujeta a los mismos defectos probabilísticos que la capa de generación.

Hasta que desarrollemos métodos de verificación deterministas que no dependan de las "sensaciones" de los LLM, la supervisión humana sigue siendo innegociable para tareas críticas. Confiar puramente en las aproximaciones de IA para código de alto riesgo o procesamiento de datos es una receta para fallas silenciosas y catastróficas en producción.