Alethea AI presenta su proyecto para combatir los problemas generados por los “deepfakes”

Cointelegraph entrevistó a Arif Khan, CEO de Alethea AI, sobre cómo abordar la desconfianza que han generado los “deepfakes”

Un proyecto de cadenas de bloques (Blockchain) se lanzó hoy para los creadores de “medios sintéticos”, un término utilizado para describir el material audiovisual generado a través de algoritmos de inteligencia artificial (IA).

El 15 de mayo, Cointelegraph entrevistó a Arif Khan, director general de Alethea AI, la empresa que está detrás del proyecto, sobre el dilema legal y moral que el contenido “deepfake” (ultrafalso en español) y otros contenidos generados por la IA han generado para el consumo de los usuarios en internet.

La apuesta de Khan es que la tecnología blockchain podría desempeñar un papel para garantizar que este contenido circule de manera responsable, proporcionando una infraestructura para la concesión de licencias, la circulación y la monetización de las creaciones legales y autorizadas, a diferencia de los medios de comunicación no etiquetados y potencialmente nefastos:

“Debemos distinguir entre el contenido “deepfake” o ultrafalso (dañinos, no permitidos, por ejemplo, el porno ultrafalso, campañas políticas de desinformación) de los medios sintéticos (uso permitido de caras y voces, la creación de clones con la voz de tus padres que están a punto de morir, con su permiso para leerles un audiolibro a sus nietos)”.

En asociación con la empresa de software Oasis Labs, todo el contenido generado para Alethea AI será etiquetado usando el API de Oasis en un intento de restaurar el control a los creadores de contenido así como a aquellos cuyas imágenes pueden ser manipuladas. 

De manera similar al simbolito azul que usa Twitter para cuentas verificadas, la compañía cree que la validación segura de blockchain en su plataforma establecerá una barrera entre el material válido y el sospechoso. Los permisos legales y el consentimiento serán los criterios fundamentales para que los medios sintéticos puedan circular y monetizarse, dijo Khan. 

Habló sobre el furor a principios de este año ocasionado por el acceso de los organismos de seguridad a Clearview AI, una aplicación que emparejaba la cara de alguien con fotos encontradas en redes sociales mediante el uso de la tecnología de las redes neuronales artificiales:

“Clearview AI robó fotos de los rostros de personas y los vendió a las agencias de seguridad sin su consentimiento. La cara de una persona y los datos de voz pertenecen al individuo y ninguna compañía debe ser dueño de esto. Con el API de Oasis Parcel, el objetivo es que estos datos se almacenen de forma confidencial y segura y se acceda a ellos a través de la blockchain de Oasis. El usuario mantiene el control de sus datos, de quién puede acceder a ellos […] y de elegir cómo ganar dinero haciendo uso de ellos”.

Ahora que la IA se usa para ir más allá del reconocimiento facial y simular apariencias auténticas, Khan admitió que, en última instancia, corresponderá a los reguladores gubernamentales y a los ciudadanos determinar colectivamente qué tipo de medios sintéticos está en consonancia con el interés público, y mejor que lo hagan rápido, “dado lo mal que se puede usar esta tecnología”. 

Argumentó que el modelo de Altethea AI para medios sintéticos permitidos ayudará a educar al público sobre “el uso positivo que se le puede dar a esta tecnología”. 

Para ilustrar lo que Alethea AI considera como uso positivo de la IA, la compañía afirma:

“Los medios de comunicación sintéticos […] no requieren que los humanos interactúen físicamente, lo cual es crucial durante la pandemia ya que los estudios cinematográficos no pueden producir nuevo contenido debido a las restricciones de la cuarentena.

Ahora podemos permitirle a los actores y a sus agencias de talentos que licencien sus datos de rostro y voz de manera segura […] Nuestros rostros y voces se están volviendo totalmente portátiles, componibles y comercializables. Le permitiremos a los usuarios ejercer su propia creatividad dentro de los dominios legales y permitidos”

En cuanto a si podría haber algo ligeramente distópico en que los medios sintéticos son atractivos precisamente porque no requieren interacción física, Khan dijo: 

“Más de 30 millones de estadounidenses están desempleados. La distopía ya está aquí con un presidente que comparte los “deepfakes/cheapfakes” quincenalmente (mi estimación aproximada). Nuestro programa Creator está diseñado para facilitar la creación de personajes sintéticos y proporcionar una oportunidad de ingresos para el uso creativo que los medios sintéticos desencadenarian”.

Sigue leyendo:

Ir a la Fuente
Author: Marie Huillet

Envía un comentario