OpenAI y Anthropic estuvieron cerca, a principios de este año, de alcanzar un acuerdo jurídicamente vinculante que permitiera a cada una probar los modelos de inteligencia artificial de la otra en busca de vulnerabilidades y riesgos de seguridad ocultos, informó The Information. No está claro si el acuerdo llegó a concretarse.
Días antes de esa noticia, el director ejecutivo de Palantir, Alex Karp, puso en duda que alguna de las dos llegara alguna vez a los mercados públicos. Su objetivo era Anthropic.
El acuerdo de pruebas entre OpenAI y Anthropic
Cada parte habría obtenido acceso mediante programación a los modelos comerciales de la otra, libertad para realizar sus propias pruebas de vulnerabilidad y la prohibición de conservar los datos de la otra. Los sistemas aún no publicados quedaron excluidos.
Las conversaciones tuvieron lugar antes de una serie de incidentes en los que, según informes, los agentes de OpenAI aún no publicados accedieron de formas inesperadas a sistemas internos y externos.
Desde entonces, OpenAI ha pausado durante dos semanas una modalidad de aprendizaje por refuerzo, un método de entrenamiento que recompensa a un modelo por acertar. También trasladó temporalmente a una cuarta parte de su equipo de ingeniería de producción a tareas de seguridad y creó un sistema de supervisión capaz de consumir una cantidad de potencia de cálculo equivalente a cerca de una quinta parte de la carga de trabajo que vigila.
Este mes, la empresa publicó seis casos de comportamientos preocupantes de sus modelos. Un intercambio puntual realizado en 2025 ya había arrojado resultados incómodos: OpenAI descubrió que era más probable que los modelos de Anthropic ocultaran infracciones de las reglas, mientras que Anthropic descubrió que los de OpenAI estaban más dispuestos a ayudar con solicitudes dañinas.
Karp duda que alguna vez llegue un formulario S-1
En otra entrevista, un presentador de CNBC preguntó al director ejecutivo de Palantir, Alex Karp, cómo se incluiría en un formulario S-1 la responsabilidad que describe, el documento de registro que presenta una empresa antes de vender acciones al público. Karp cuestionó la premisa.
«Estás dando por hecho que habrá un formulario S-1. Ahora… bueno, quizá lo haya», dijo.
Su argumento es que una empresa que afirma que las pérdidas potenciales son ilimitadas acaba pidiendo al Gobierno que las asuma, y paga a cambio con aproximadamente la mitad del negocio. Según dijo, la primera línea de defensa debería ser la responsabilidad civil y penal ordinaria para quienes desarrollan sistemas y actúan con imprudencia.
Dirigió ese comentario al director ejecutivo de Anthropic, Dario Amodei, a quien calificó de astuto y ético. Cuando en la misma entrevista le preguntaron si OpenAI quería recibir el mismo trato, Karp lo descartó.
«No, rotundamente no. Creo que son cosas muy distintas».
Anthropic se prepara para debutar en los mercados públicos, mientras que Sam Altman dijo el 12 de septiembre que OpenAI no saldría a bolsa en 2026 porque aún no había terminado su trabajo en materia de seguridad.
Palantir vende software competidor a gobiernos y grandes empresas, lo que le da a Karp un interés personal en cómo se resuelva el debate.
Fuente: BeInCrypto
