Por Camille G., fundadora de Verumano.
Internet se enfrenta a una creciente crisis de confianza. La inteligencia artificial generativa ahora puede producir ilustraciones, novelas, pistas de música y vídeos que a veces son difíciles de distinguir del trabajo creado por humanos. Para artistas, escritores, fotógrafos y músicos, una pregunta se vuelve cada vez más importante: ¿Cómo pueden los creadores demostrar que su trabajo resulta genuinamente del esfuerzo humano?
Varios enfoques están surgiendo para abordar este desafío. Algunos se basan en el compromiso público de un creador, como el No es IA insignia. Otros se centran en la procedencia criptográfica, como con Estándar C2PA (Coalition for Content Provenance and Authenticity). Un tercer enfoque, representado por Protocolo Verumano como se describe aquí, busca situar el proceso creativo y la revisión humana en el centro de la certificación.
Sin embargo, estas soluciones no responden exactamente la misma pregunta. Declarar que una obra es hecha por el ser humano, rastrear su historia técnica y examinar evidencias de su creación son tres procesos diferentes.
¿Puede certificarse realmente que una obra de arte es 100% hecha por humanos (sin IA)? ¿Y qué garantías puede proporcionar una certificación sin prometer lo imposible?
1. Etiquetas Autodeclaradas: La Confianza Comienza con el Creador
No es IA: Haciendo visible el compromiso con la creatividad humana
A medida que el contenido generado por IA se vuelve más generalizado, algunas iniciativas han adoptado un enfoque directo: permitir que los creadores expresen públicamente su compromiso con la creatividad humana.
Un ejemplo es No es IA, que ofrece insignias para escritores, artistas y otros creadores de contenido.
La iniciativa utiliza una regla del 90%: según los criterios establecidos del programa, al menos el 90% del contenido relevante debe ser creado por humanos. Ciertos usos limitados de IA pueden estar permitidos, sujetos a las reglas aplicables para cada tipo de contenido.
La insignia actúa como una señal para la audiencia. Comunica la posición del creador y hace visible su compromiso con la creatividad humana.
La Limitación: Una Insignia No Es Prueba Técnica
Una insignia gráfica puede ser copiada, reproducida o mostrada sin autorización. Por sí sola, no establece el origen de un archivo ni documenta los pasos implicados en su creación.
Sin embargo, es importante distinguir la insignia en sí de la iniciativa más amplia. Not By AI también proporciona información sobre su programa y términos de uso. Su enfoque no debe reducirse necesariamente a una imagen estática.
La limitación fundamental persiste: una declaración, incluso cuando va acompañada de un compromiso público, no garantiza automáticamente que toda afirmación sobre un contenido sea precisa.
Punto clave: Una etiqueta autodeclarada puede comunicar una intención y hacer visible un compromiso. No debe confundirse con una certificación técnica independiente.
Fuente: No generado por IA — La regla del 90% y términos de uso.
2. C2PA: Rastreando la Procedencia Digital del Trabajo Creativo
¿Qué es el Estándar C2PA?
El Coalición para la Procedencia y Autenticidad del Contenido (C2PA) desarrolla un estándar abierto diseñado para documentar la procedencia del contenido digital y los cambios que sufre.
Apoyado por organizaciones de los sectores tecnológico y mediático, el estándar tiene como objetivo proporcionar información verificable sobre el origen e historial de imágenes, vídeos y otros archivos compatibles.
La tecnología se utiliza en el ecosistema más amplio de Content Credentials, que proporciona información sobre el origen e historial de edición del contenido digital.
¿Cómo funciona la certificación C2PA?
Considere una fotografía tomada con una cámara compatible.
En el momento de la captura, el sistema puede registrar información sobre el origen del archivo y asociarla con un manifiesto firmado. Si la fotografía se edita posteriormente en software compatible, se puede registrar información adicional de procedencia para documentar los cambios.
Las firmas digitales y los mecanismos de vinculación criptográfica permiten verificar ciertas propiedades del manifiesto y pueden revelar modificaciones que sean inconsistentes con los datos registrados.
Sin embargo, esto no crea un registro universal e infalible de todo lo que le ha sucedido a una obra de arte desde su creación. La calidad de la información disponible depende de las herramientas utilizadas, de los pasos realmente documentados y de cómo se procesan y distribuyen los contenidos.
La documentación oficial describe esta arquitectura en el Especificación Técnica C2PA.
La Procedencia Verificable No Significa Exclusivamente Creación Humana
Esta es la distinción crucial.
C2PA está diseñado para hacer que la información de procedencia y ciertas afirmaciones asociadas con el contenido sean verificables. El estándar no determina, por sí solo, si una obra de arte es artísticamente original, éticamente aceptable o creada exclusivamente por un ser humano.
Una imagen generada por un sistema de IA también puede tener información de procedencia válida que documente el uso de ese sistema.
Un manifiesto criptográficamente válido significa que ciertas comprobaciones técnicas han tenido éxito. No garantiza que todas las afirmaciones contenidas en el manifiesto sean factualmente verdaderas.
C2PA puede ayudar a responder la pregunta "¿De dónde procede este archivo y qué acciones han sido documentadas?". Sin embargo, no puede responder necesariamente "¿Fue esta obra creada completamente por un ser humano?"
¿Es C2PA solo para profesionales?
Sería inexacto describir C2PA como inherentemente costoso o restringido a equipos de gama alta.
El estándar es abierto y puede implementarse en diferentes herramientas de hardware y software. Algunas aplicaciones pueden depender de equipos especializados, servicios comerciales o software de pago compatible, pero los costos varían según la implementación.
Para los creadores independientes, los desafíos también son prácticos: la disponibilidad de herramientas compatibles, la facilidad de uso, la compatibilidad multiplataforma y la preservación de la información de procedencia.
Fuente: C2PA — Especificaciones Técnicas Oficiales.
3. Verumano: Examinando el Proceso Creativo, No Solo el Archivo Final
Un Enfoque Centrado en la Evidencia de la Creación
El Protocolo Verumano, según se describe en este artículo, adopta un enfoque complementario. En lugar de enfocarse exclusivamente en la información adjunta al archivo final, busca examinar la evidencia que ayuda a explicar cómo se creó la obra.
Este enfoque está dirigido a ilustradores, fotógrafos, escritores, músicos y otros creadores independientes que deseen documentar su trabajo y hacer sus afirmaciones más creíbles.
El principio es reunir un cuerpo de evidencia apropiado para la disciplina creativa. Esto puede incluir:
- Diferentes versiones de proyecto y etapas intermedias.
- Archivos de trabajo y capas, cuando estén disponibles.
- Archivos RAW originales para fotografía.
- Pistas de audio separadas y sesiones de producción musical.
- Borradores, esbozos, notas y otros materiales relevantes.
- Una descripción de las herramientas utilizadas y cualquier participación de IA.
Estos materiales no prueban automáticamente que la IA nunca estuvo involucrada. Sin embargo, pueden ayudar a un revisor a evaluar la coherencia del proceso documentado y la solidez de la prueba presentada.
¿Por qué incluir revisión humana?
La revisión humana puede proporcionar una dimensión que la criptografía por sí sola no puede: la evaluación contextual de la prueba presentada.
Por ejemplo, un revisor puede examinar si las etapas de una ilustración son coherentes, si los archivos de trabajo se corresponden con la obra final, y si la documentación disponible proporciona un relato creíble del proceso de producción.
Este enfoque sigue teniendo limitaciones. Los archivos fuente pueden estar incompletos, los historiales pueden ser falsificados, y los revisores pueden cometer errores. El trabajo asistido por IA también puede refinarse manualmente y acompañarse de archivos de trabajo convincentes.
La calidad de este tipo de certificación depende, por lo tanto, de criterios públicos, procedimientos de revisión documentados, competencia de los revisores y mecanismos para impugnar decisiones.
La promesa significativa no es una prueba absoluta de pureza humana, sino un relato documentado y revisable del proceso creativo.
Nota de transparencia: Los mecanismos específicos de Verumano descritos en esta sección reflejan el enfoque declarado del protocolo. Su disponibilidad real, reglas de certificación y propiedades de seguridad deben confirmarse a través de documentación técnica pública y una demostración verificable.
4. Hashes SHA-256 e Insignias Dinámicas: ¿Qué Demuestran Realmente?
Un sistema de certificación que combina un hash criptográfico, pruebas de apoyo y una verificación de estado en línea puede ser útil. Sin embargo, cada componente tiene un papel específico y limitaciones.
¿Demuestra un hash SHA-256 que una obra de arte es hecha por humanos?
No.
SHA-256 es una función hash criptográfica que calcula una huella digital a partir de los datos de un archivo. Puede usarse para comparar archivos: si sus hashes difieren, sus datos difieren, sujeto a los supuestos de seguridad del algoritmo.
Sin embargo, un hash no revela cómo se produjo un archivo.
Una ilustración dibujada manualmente y una ilustración generada por IA pueden tener ambas hashes SHA-256. El cálculo no puede distinguir entre sus orígenes.
El hash cumple un propósito diferente: puede vincular una validación a un archivo específico. Si el archivo cambia, su hash normalmente también cambiará.
Para obtener más información, consulte el Documentación NIST sobre funciones de hash criptográfico.
¿Cómo podría funcionar una insignia de verificación en línea?
En la propuesta Arquitectura verumanense, una insignia podría consultar una API para mostrar el estado actual de una certificación.
Un sistema de este tipo podría distinguir entre varios estados:
- Certificado o validado: La presentación ha cumplido con los criterios establecidos.
- Suspendido o en revisión: Se requiere verificación adicional.
- Revocado: La certificación ya no es considerada válida por el servicio.
- No disponible: El estado no puede ser verificado actualmente.
Una revocación podría reflejarse en insignias que consulten activamente el servicio. Sin embargo, una imagen de insignia estática, una captura de pantalla o una copia sin conexión no se actualizaría automáticamente.
La verificación dinámica también depende de la disponibilidad de API, la seguridad del servicio y la frecuencia con que se realizan las comprobaciones de estado.
Por lo tanto, es más preciso describir esto como un estado de certificación verificable en línea y revocable que como una arquitectura inviolable.
Por qué la Revocación por Sí Sola No Puede Prevenir el Fraude
La revocación permite que una certificación sea retirada cuando se cumplen las condiciones especificadas. No garantiza que desaparezca cada copia de una insignia ni que cada usuario compruebe su estado actual.
Para establecer confianza, el sistema necesita criterios de revocación transparentes, un procedimiento de apelación y políticas claras para manejar errores, disputas e interrupciones técnicas.
Las reglas transparentes son tan importantes como la tecnología subyacente.
5. Not By AI vs. C2PA vs. Verumano: Comparación de tres enfoques
Estos tres modelos pueden complementarse entre sí, pero sus garantías no son intercambiables.
| Criterio | No es IA | C2PA | Verumano, como se describe |
|---|---|---|---|
| Propósito principal | Expresar un compromiso con la creatividad humana | Procedencia digital de documentos | Examinar evidencia del proceso creativo |
| Tipo de prueba | Declaración y términos de uso | Manifiestos y firmas verificables | Archivos de origen y revisión humana |
| Papel de la criptografía | No central en el distintivo en sí | Central para la verificación técnica | Hash de archivos y una API propuesta |
| Verificación independiente | Depende de los servicios y procedimientos ofrecidos | A través de herramientas compatibles y un modelo de confianza | Depende de los procedimientos de revisión e implementación |
| Revocación | Depende de los términos del programa | Manejo de firma y confianza, según las circunstancias | El estado revocable es parte del enfoque descrito |
| Limitación principal | Un compromiso por sí solo no prueba el origen | La procedencia por sí sola no prueba la creación humana | La evidencia y la revisión no pueden garantizar certeza absoluta |
| Accesibilidad | La disponibilidad de insignias depende de los términos del programa | Estándar abierto, con herramientas variadas | Requiere confirmación de disponibilidad real y condiciones |
La naturaleza abierta de un estándar no debe confundirse con que todos los servicios construidos en torno a él sean gratuitos. Del mismo modo, un proyecto de código abierto puede facilitar la auditoría del código, pero la disponibilidad de código abierto por sí sola no garantiza la confiabilidad del revisor ni la veracidad de una certificación.
Por lo tanto, la comparación debe centrarse en las garantías realmente proporcionadas, en lugar de en las promesas que se están haciendo.
6. ¿Podemos realmente demostrar que una obra es 100% hecha por humanos?
Esta es la pregunta central, y requiere una respuesta cautelosa.
Ninguno de estos tres enfoques puede, por sí solo, establecer con absoluta certeza que una obra nunca se ha beneficiado de asistencia de IA.
Un historial de versiones puede estar incompleto. Los archivos de origen pueden ser fabricados o modificados. Una firma digital puede ser válida incluso cuando acompaña una afirmación inexacta. La revisión humana puede aumentar la confianza sin eliminar todos los riesgos de error o fraude.
Además, es necesario definir el significado de la creación humana. Una obra puede haber sido concebida y compuesta por un ser humano mientras se apoya en la corrección de pruebas, la edición de imágenes o asistencia generativa parcial. Su clasificación depende de los criterios que se apliquen.
Para que una etiqueta sea significativa, debe especificar lo que certifica:
- La ausencia de contenido generado por IA.
- Una obra creada predominantemente por humanos.
- Un proceso creativo documentado y revisado.
- La integridad de un archivo desde un punto específico en el tiempo.
- La declaración del creador sobre las herramientas utilizadas.
Estas afirmaciones no son equivalentes.
Una certificación creíble debe publicar su alcance, criterios, requisitos de evidencia y limitaciones. También debe explicar si certifica la ausencia de IA, un nivel definido de intervención humana, o simplemente un proceso creativo documentado.
7. Hacia una Convergencia entre la Procedencia Digital y la Certificación de Creación Humana
La mejor solución a largo plazo puede no ser elegir entre C2PA y una certificación enfocada en el trabajo creativo humano.
Los dos enfoques podrían combinarse potencialmente. Un protocolo que examine el proceso creativo podría, por ejemplo, asociar su resultado de revisión con una declaración de procedencia firmada vinculada criptográficamente a la obra de arte.
Una integración así podría reunir dos dimensiones complementarias:
- Pruebas técnicas: la capacidad de verificar la integridad de la información asociada a un archivo.
- Procesar evidencia: los materiales examinados y los criterios aplicados durante la certificación.
Esta convergencia requeriría una especificación clara: quién firma las afirmaciones, quién es responsable de la verificación, cómo se publican las revocaciones y cómo los usuarios deben interpretar los resultados.
También sería importante evitar que una declaración como "100% hecho por humanos" sea tratada automáticamente como verdadera simplemente porque aparece en un manifiesto criptográficamente válido.
La criptografía puede hacer que una declaración sea verificable y detectar ciertas alteraciones. Por sí sola, no puede convertir esa declaración en verdad.
Conclusión: La confianza no se declara. Se documenta.
En la era de la inteligencia artificial generativa, la protección de la creatividad humana probablemente no dependerá de una única insignia o de un algoritmo milagroso.
Las etiquetas autodeclaradas pueden hacer visible un compromiso. C2PA proporciona un marco técnico para documentar y verificar la procedencia del contenido. Un enfoque como el descrito para Verumano busca complementar estos mecanismos examinando el proceso creativo.
Cada método aborda una necesidad diferente y tiene sus propias limitaciones.
Para los creadores independientes, el desafío es demostrar cómo se realizó una obra, preservar pruebas de apoyo y comunicar claramente sobre cualquier uso de IA. Para las audiencias, el desafío es entender qué ha sido realmente verificado antes de decidir si confiar en una afirmación.
El verdadero valor de la certificación, por lo tanto, no reside en la promesa de una inviolabilidad absoluta, sino en criterios transparentes, evidencia sólida, revisión independiente y la capacidad de impugnar una decisión.
En la era de la IA, la mejor certificación no pretenderá eliminar toda duda. Dará a la gente los medios para entender qué ha sido establecido, qué simplemente ha sido declarado y qué sigue siendo incierto.
Fuentes y Referencias
- C2PA — Especificaciones Técnicas Oficiales
- C2PA — Principios y Documentación
- Not By AI — Sitio Web Oficial
- No por IA — La Regla del 90%
- NIST — Funciones Criptográficas de Hash
Nota editorial: Estas fuentes documentan los mecanismos generales y las normas públicamente disponibles de las iniciativas referenciadas. Las afirmaciones sobre características específicas de Verumano deben estar respaldadas por enlaces a su especificación oficial, repositorio de código fuente, paquete npm y servicio de verificación siempre que estén disponibles y puedan ser verificados de forma independiente.
