Introducción

En ReCuerdo.ai, garantizar que nuestros sistemas se desarrollen, implementen y utilicen de forma segura es nuestra prioridad. Durante el último año, nuestras voces de IA han devuelto las voces a aquellos que los han perdido y han ayudado a las personas con necesidades de accesibilidad en su vida diaria. Creemos que estos ejemplos destacan lo mejor del potencial transformador de la IA, pero para darnos cuenta plenamente, debemos abordar y mitigar los riesgos asociados. Vemos la seguridad de la IA como inseparable de la innovación y detallamos nuestras medidas de seguridad a continuación:

Iniciativas de seguridad

1. Voz Captcha

Al crear un clon de voz profesional, requerimos que los usuarios completen un mecanismo de captcha de voz para que se produzca un clon de voz profesional. Si hay una coincidencia, su solicitud se envía para su ajuste. Si todos no son válidos, tendrás que ponerte en contacto a través de nuestro centro de ayuda para que tu voz se verifique manualmente.

2. Detección de IA

Para aumentar la transparencia, el pasado mes de junio lanzamos el clasificador de voz de IA, que permite a cualquiera subir muestras de audio para analizar si la muestra era audio generado por IA de ElevenLabs. Nuestro objetivo es ayudar a prevenir la propagación de la desinformación haciendo que la fuente del contenido de audio sea más fácil de evaluar.

3. Moderación de texto

Utilizamos soluciones de protección técnica para tratar de detectar e identificar el contenido problemático y dañino que va en contra de nuestros términos de servicio, como el discurso de odio, la autolesiones, el abuso sexual de menores, el fraude y las estafas en nuestras plataformas. Estamos ampliando continuamente nuestros esfuerzos de moderación de textos y probando activamente nuevas formas de contrarrestar los casos de uso indebido, como la creación de contenido político que podría afectar la participación en el proceso democrático o engañar a los votantes.

4. Moderación de voz

Si bien nuestros términos ya prohíben el uso de nuestra plataforma para hacerse pasar por o dañar a otros, estamos tomando la medida adicional de introducir una salvaguardia de «no ir a las voces«. Esta salvaguardia está diseñada para detectar y prevenir la creación de clones de voz que imitan a los candidatos políticos que participan activamente en las elecciones presidenciales o de primer ministro, comenzando por las de los EE. UU. y el Reino Unido. Estamos trabajando para ampliar esta salvaguardia a otros idiomas y ciclos electorales. También nuestro objetivo es refinar continuamente esta medida a través de pruebas prácticas y comentarios.

Estamos invitando a otras empresas de IA a colaborar con nosotros para establecer un método integral para la detección de contenido de IA. Si está interesado en una asociación póngase en contacto con el PROVEEDOR QUE USAMOS POR API: legal@elevenlabs.io.

¿Cómo puedes informar de las preocupaciones?

Si encuentra contenido que plantea preocupaciones y cree que fue creado en nuestra plataforma, por favor repórtelo aquí.

¿Qué medidas tomamos en casos de mal uso?

De acuerdo con nuestros términos y reglas de la comunidad, tomamos las medidas que sean apropiadas en función de la violación, que podría incluir advertencias, eliminación de voces, prohibición de la cuenta y, en los casos apropiados, informar a las autoridades.

¿Cómo cooperamos con las agencias reguladoras y las agencias de aplicación de la ley?

1. Como parte de nuestro compromiso con la confianza y la seguridad, ElevenLabs ha establecido políticas relativas a la cooperación con las autoridades gubernamentales, incluidas las agencias de aplicación de la ley. En los casos apropiados, esto puede incluir la denuncia o divulgación de información sobre contenido abusivo o ilegal, así como la respuesta a las consultas legales de las fuerzas del orden y otras entidades gubernamentales.
2. ElevenLabs almacena, mantiene y procesa los datos de los usuarios como se describe en nuestra Política de Privacidad y Términos de Servicio. Solo divulgaremos los datos del usuario de una manera que sea consistente con esos términos y con la ley aplicable en las jurisdicciones pertinentes.
3. ElevenLabs cumplirá con las solicitudes legales no de emergencia de divulgación que vayan acompañadas de un proceso legal apropiado dirigido a la entidad correcta.
   1. Las autoridades encargadas de hacer cumplir la ley en los Estados Unidos pueden presentar solicitudes de proceso legal no de emergencia a ElevenLabs, Inc., enviando un correo electrónico al proceso legal a: legal@elevenslab.io
   2. Las autoridades encargadas de hacer cumplir la ley en la UE pueden presentar solicitudes de proceso legal no de emergencia a ElevenLabs Sp. z o.o., enviando el proceso legal por correo electrónico a EU-legal@elevenlabs.io. De conformidad con el artículo 11 del DSA, ElevenLabs Sp. z o.o., ha designado a EU-legal@elevenlabs.io como el único punto de contacto para las comunicaciones directas con la Comisión Europea, las autoridades de los Estados miembros y la Junta Europea de Servicios Digitales en relación con la aplicación del DSA. Aceptamos procesos legales en inglés y en polaco. Cuando lo exija la ley aplicable, los procesos legales internacionales pueden requerir la presentación a través de un Tratado de Asistencia Jurídica Mutua.
   3. Divulgaciones en circunstancias de emergencia: ElevenLabs puede responder a las solicitudes del gobierno de divulgación de emergencia si recibimos una solicitud de emergencia válida que proporcione información suficiente para que ElevenLabs cree de buena fe de que una emergencia que plantea una amenaza de daño inminente o lesión física grave requiere la divulgación inmediata de la información solicitada. Las autoridades encargadas de hacer cumplir la ley pueden enviar solicitudes de información de emergencia por correo electrónico a legal@elevenlabs.io e incluir la siguiente información:
      1. Su nombre y título, la agencia gubernamental para la que trabaja y su información de contacto completa (dirección de correo electrónico del gobierno, número de teléfono y número de fax);
      2. Un resumen de los hechos sobre la situación de emergencia, incluida la forma en que la situación plantea un peligro de muerte o lesión física grave para cualquier persona;
      3. La identidad de la persona o personas que están en peligro;
      4. Los registros específicos buscados y cómo se relacionan con la emergencia; y
      5. Por qué no se puede obtener un proceso legal y los registros deben divulgarse sin demora.