Tag
5 publicaciones
Una nueva herramienta de código abierto puede eliminar quirúrgicamente los filtros de seguridad de una IA en minutos, sin dañar su inteligencia. Esto expone una fragilidad fundamental en cómo construimos IA 'segura', con millones de modelos sin censura ya circulando libremente.
Anthropic acaba de descubrir un espacio de 'pensamiento' oculto dentro de su IA, revelando las verdaderas intenciones del modelo. Este avance podría ser la clave para construir una IA segura, o podría cambiar cómo definimos la conciencia.
Anthropic acaba de desvelar cómo *realmente* piensa la IA, descubriendo un 'espacio de trabajo' oculto dentro de Claude que refleja la conciencia humana. Esta característica emergente, llamada J-space, podría ser la clave para construir una IA verdaderamente segura y alineada.
En un impactante nuevo artículo, OpenAI revela cómo eliminaron el 99.9% de las conexiones de un modelo para exponer su lógica oculta. Por primera vez, podemos observar a una IA tomar decisiones paso a paso.
En un impresionante nuevo documento, OpenAI revela cómo eliminaron el 99.9% de las conexiones de un modelo para exponer su lógica oculta. Por primera vez, podemos observar a una inteligencia artificial tomar decisiones paso a paso.
