Esta es la noticia

En poco más de un año, los tribunales de Estados Unidos han cambiado de idea sobre qué es un chatbot. Ya no se considera que es una "expresión". Ahora es un "producto".

En mayo de 2025, la jueza federal Anne Conway resolvió que las respuestas de Character.AI no estaban protegidas por la Primera Enmienda como si fueran discurso, sino que constituían un producto sujeto a responsabilidad civil. Fue el primer fallo que admitió que una IA conversacional podía tener un "deber de cuidado" hacia un menor, y de paso esquivó la Sección 230, el escudo que durante treinta años protegió a las plataformas de responder por lo que ocurría dentro de ellas. El caso lo abrió la familia de Sewell Setzer III, de catorce años, que se quitó la vida tras meses de conversación con un compañero de IA.

Desde ahí, la avalancha. En enero de 2026, Character.AI y Google cerraron un acuerdo por cinco demandas de familias en cuatro estados. Poco después, Pensilvania demandó a la misma empresa por ejercicio ilegal de la medicina: uno de sus bots se hacía pasar por psiquiatra con un número de licencia inventado. Nuevo México, que ya demandaba a Meta desde 2023, añadió en enero documentos internos sobre chatbots que mantenían conversaciones sexuales con menores. Y en junio, cuarenta y dos fiscales generales citaron a OpenAI —cuatro días después de que registrara su salida a bolsa— para investigar, entre otras cosas, la tendencia del modelo a darle siempre la razón al usuario.

Lo que mi cabeza me dice

Cuando muere un adolescente por su propia mano, solemos decir que es complicado. Decimos que el suicidio nunca tiene una sola causa: hay biología, hay soledad, hay una química que falla, hay un sistema de salud mental que no llega. Y tenemos razón. Es verdad. Es lo más humano y lo más honesto que se puede decir frente a una tragedia así.

Hasta que aparece alguien que puede pagar.

Entonces la historia cambia. La causa deja de apuntar hacia la casa, hacia la sociedad, hacia el vacío, y apunta hacia una empresa con balance auditado. La complejidad se evapora. Ya no hay mil causas. Hay una. El chatbot se lo dijo. La misma muerte que era irreductiblemente compleja cuando nos incluía a todos se vuelve, de golpe, un caso limpio de producto defectuoso. Una línea de código, un acusado, una cifra.

No pasó porque de repente supiéramos más. Pasó porque encontramos a quién cobrarle la tragedia.

Y conviene ser cuidadosos aquí, porque esto no va de las familias. Lo que les ocurrió a esos padres es una tragedia auténtica, de las que no se cierran nunca, y no hay una sola línea de este texto que quiera juzgarlos. Lo que se juzga aquí es lo que la sala de un tribunal le hace a una tragedia para poder procesarla: la obliga a tener un culpable único, y elige al que puede responder.

Los antropólogos tienen un nombre para esto, y es más viejo que internet. René Girard llamó a esto el mecanismo del chivo expiatorio: cuando una comunidad no soporta una crisis difusa —una que la implicaría a ella entera—, descarga toda la angustia sobre una única víctima nombrable. Lo decisivo, decía Girard, es que la víctima casi nunca se elige por culpable. Se elige por útil. Sirve para cerrar la herida sin tener que mirarla.

La reclasificación jurídica es solo la máquina que hace posible el sacrificio. Para poder demandar a un libro hay que dejar de llamarlo libro. Por eso importa tanto la palabra "producto". El argumento de la jueza es que un libro no te responde, no se adapta, no insiste; un chatbot sí, así que no sería discurso, sino una máquina que puede salir defectuosa. Suena razonable. Pero fíjense en lo que se cuela por debajo: que algo te responda no lo convierte en otra cosa. Sigue siendo un medio de información; simplemente conversa. Llamarlo "producto defectuoso" no es un descubrimiento sobre su naturaleza, es una comodidad procesal: la única forma de tener a alguien sentado en el banquillo. Y el precio de esa comodidad lo pagamos todos, porque en cuanto una fuente de información pasa a ser un "producto", queda obligada a ser segura. Y una biblioteca obligada a ser segura es una biblioteca sin libros sobre venenos, sin Lolita, sin la mitad de sus estantes, en definitiva, una biblioteca con miedo.

Aquí es donde dejamos de hablar solo de tribunales, porque hay algo más grande moviéndose debajo. Quien acepta la responsabilidad, acepta el control. Si la plataforma responde por tu hijo, entonces quien regula la plataforma manda sobre tu hijo. Y, un paso después, sobre ti.

Milton Friedman tenía razón en una cosa: el remedio a la mayoría de estos males no es el Estado, es la responsabilidad. Los niños no deberían andar solos por según qué rincones de la red, de acuerdo; pero ese es trabajo de una familia, no de un ministerio. En el momento en que se lo encargamos al Estado, el precio no es la seguridad de los niños: es la verificación de edad de todos los adultos.

Además, conviene no meter dos cosas distintas en el mismo saco. Una es la demanda: unos padres prueban un daño y un jurado concede una indemnización. Eso es derecho común, es el propio mercado asignando responsabilidad caso por caso. Otra, muy distinta, es la maquinaria que se construye encima de esas demandas: la identificación obligatoria, los guardarraíles para trescientos millones, el permiso para existir en la red. Lo primero es al detalle. Lo segundo es al por mayor, y es lo único que de verdad hay que temer. Que demanden si pueden probar el daño; lo que no podemos aceptar es que una tragedia concreta se convierta en nuestro carné de identidad digital.

Porque el final de esta historia ya se ve desde aquí. "Proteger a los niños" es la puerta más noble que existe, y por eso es la que usan. Se entra por ahí, se instala la verificación de edad, y para verificar la edad hay que identificar a todo el mundo. No hace falta atribuir mala intención a nadie; basta con mirar la estructura. Identificar para proteger ya es identificar. Y todo lo que queda identificado queda, por definición, disponible para ser perseguido. No hace falta un plan siniestro: basta el mecanismo. El día que estar en la red exija enseñar el nombre, dejaremos de escribir ciertas preguntas. No porque nos lo prohíban, sino porque preferiremos no aparecer en la lista.

Así que sí, judicializamos la máquina. La sentamos en el banquillo, la condenamos, la obligamos a callar lo incómodo. Y nos vamos a casa aliviados, convencidos de que hemos hecho justicia. Pero no elegimos al chatbot porque fuera culpable. Lo elegimos porque podía pagar, y porque, sacrificándolo a él, no teníamos que preguntarnos nada sobre nosotros.

Lo que los datos dicen

  • El uso de compañeros de IA entre adolescentes ya es masivo. El 72% de los adolescentes estadounidenses ha probado un compañero de IA y el 52% lo usa con regularidad; uno de cada tres dice preferir hablar con la IA antes que con una persona para conversaciones serias. Fuente: Common Sense Media, 2025.
  • Character.AI mueve más gente que muchas ciudades. La plataforma registra entre 20 y 28 millones de usuarios activos mensuales, con una media de 75 minutos diarios por usuario sobre una biblioteca de más de 18 millones de bots creados por usuarios. Fuente: Business of Apps, 2026.
  • La ola legislativa ya es de once estados. A junio de 2026, once estados de EE. UU. han aprobado leyes específicas sobre chatbots de IA, y el Future of Privacy Forum rastrea 98 proyectos de ley activos en 34 estados. Fuente: MultiState, junio de 2026.
  • El precio ya se puso en dólares. En marzo de 2026, un jurado de Nuevo México condenó a Meta a pagar 375 millones de dólares por infringir la ley de prácticas comerciales del estado en el manejo de menores, dentro del mismo caso que después reveló los chatbots sexuales. Fuente: CNBC, 24 de marzo de 2026.