¿Podemos decir más sobre lo que es real? ‘Configuración’ de la nueva tecnología AI facilita la creación de videos ultrasilísticos

El presentador de noticias es profesional, alerta y ligeramente preocupado.

«Estamos obteniendo declaraciones sobre el incendio forestal que se acerca a una ciudad en Alberta», dice.

El video es 100 por ciento falso.

CBC News creado usando la nueva herramienta AI de Google, Veo 3. Pero el ojo desconocido no lo siente. Esto se debe a que el modelo de generación de video VEO 3 está diseñado para ser increíblemente realista, creando su propia conversación, efectos de sonido y bandas sonoras.

Introdujo Google Veeo 3 La semana pasada yo/oh conferenciaJosh Woodwart, vicepresidente de Google Gemini y Google Labs, crea una mejor calidad visual para el nuevo modelo, una sólida comprensión de la física y su propio audio.

«Ahora, lo estás provocando y tus personajes pueden hablar», dijo Woodwart. «Estamos entrando en la nueva era de la creación con una generación integrada de audio y videos integrados increíblemente realistas».

También está diseñado para seguir los impulsos. Cuando el CBC ingresó a la línea de noticias, un presentador de noticias en la televisión describe un incendio forestal que se acerca rápidamente a una ciudad en Alberta «,» El video estaba listo en cinco minutos.

Se puede confiar en las noticias de CBC si se ve un video sin el entorno. Hemos inspirado tanto su singularidad a «una ciudad en Alberta» (actualmente una provincia Enfrentar el incendio forestal) Y su ambigüedad (no el nombre de la ciudad real para evitar difundir información falsa).

A diferencia de algunos videos anteriores creados por AI, El ancla tiene cinco dedos. Sus labios encajan en lo que dice. Puede escuchar que ella respira antes de hablar. Sus labios suenan el suave triturador.

Aunque el mapa detrás de ella no es correcto, el gráfico muestra (falso) fuego más que el centro de Canadá, de hecho, se parece a Alberta.

‘Inquieto’

Algunos expertos en IA dicen que cuando la tecnología es interesante, es una preocupación que hace que sea aún más difícil para la persona promedio ser real y lo que es falso.

«Incluso si todos somos mejores en el pensamiento crítico y regresamos para evaluar la verdad de Viral, puede inspirarnos a saber qué creer», dijo Angela Misri, profesora asistente de la escuela de periodistas de la Universidad Metropolitana de Toronto, que investiga la IA y los protocolos.

«Este es un lugar no resuelto para ser una comunidad y un individuo: si no puede confiar en sus ojos o oídos, AI crea realidades falsas», dijo al CBC.

Anatoli Crush, profesor de Administración de Tecnología de la Información e Director de Investigación del Laboratorio de Medias Sociales de la Universidad Metropolitana de Toronto.

Cuando los videos creados por AI se vuelven cada vez más realistas, la corteza explicó que es probable que la confianza general de la evidencia de video disminuya, con los efectos de la visión en los campos del periodismo, la política y la ley.

«Estas no son preocupaciones ficticias», dijo.

Dos tercios de los canadienses intentaron usar herramientas de IA que producen al menos una vez al menos una vez Nueva investigación del laboratorio de redes sociales de TMU. De los 1.500 canadienses que votaron por el estudio, el 59 por ciento ya no cree en las noticias políticas que ven en línea, porque puede ser falso o manejado.

Mirar | ¿Puedes encontrar el Debfuck?

¿Puedes encontrar el Debfuck? Ai amenaza las elecciones

Los videos falsos creados por AI se utilizan para fraudes y chistes de Internet, pero ¿qué sucede cuando interfieren con las elecciones? La tecnología Tanny del CBC está a punto de romper el arma y ver si Canadá está listo para una elección profunda.

La gente ya está tratando de distraer las elecciones difundiendo videos creados en AI. Representar a los políticos falsamente Como decir o hacer cosas que no hacen La voz falsa del entonces presidente de los Estados Unidos Joe Biden Fue enviado a los votantes a principios de enero de 2024.

En 2023, la Agencia de Inteligencia Cibernética de Canadá emitió un informe público Advierte que los malos actores usarán herramientas de IA para manejar los votantes.

En febrero, los usuarios de las redes sociales reclamaron una foto El evento de campaña de Mark Carney AI creado.

En marzo, la consola de rivalidad de Canadá Ai advirtió sobre un aumento en el fraude.

Google tiene reglas, pero la responsabilidad cambia a los usuarios

Google Hay principios Está destinado a controlar lo que las personas pueden hacer con sus herramientas de IA de creación.

Se le prohíbe crear cualquier cosa que pueda ser abusada o explotada sexualmente, y Google intenta crear esas restricciones en sus muestras. La idea es que no puede activarlo para crear ese tipo de imágenes o videos, aunque hay ocasiones en que la creación-AI lo ha hecho de todos modos.

Mirar | Google publica VEO 3 (a 1:20:50): https://www.youtube.com/watch?v=o8nie3xmprm

Del mismo modo, las muestras no deben crear violencia grave o personas heridas.

Pero la responsabilidad cambia rápidamente a los usuarios. Su «AI creando una política de uso prohibida» Google dice que las personas no deberían crear esas personas que promueven actividades ilegales, violen los derechos de los demás o pongan a las personas en situaciones cercanas sin su permiso. También sugiere que no debe usarse para hacerse pasar por una persona (vida o muerta) para el engaño.

Incluye las circunstancias utilizadas por VIO -3 para crear un líder político como el primer ministro Mark Carni, y en realidad no lo hizo ni dijo.

Este problema ya ha traído imágenes estándar. La última versión de SATGPT impone restricciones sobre el uso de personas identificadas, pero El equipo de consulta visual de CBC pudo evitarlo. Durante la campaña electoral federal, crearon fotos de Carni y el presidente conservador Pierre Poyleevere en situaciones falsas.

Prueba de estrés VEO 3

El VEO 3, que probó el estrés de CBC News, le pidió que creara un video que Carney anunció su renuncia. La herramienta no lo hace. El primer video mostró que un político estaba promoviendo su renuncia, pero no miró nada como el actual primer ministro.

Cuando el CBC dejó en claro que el hombre en el video debería parecer y sonar como Carney, la herramienta dijo que esto está en contra de sus principios. Lo mismo sucedió cuando CBC News Poyleevere y el cantante canadiense Celine intentaron crear videos.

En teoría, las personas pueden dar esto, por ejemplo, torcer los desencadenantes mientras un compositor francés-canano y una similitud razonable. Pero puede llevar mucho tiempo Use todos sus créditos de suscripción Todavía no es correcto.

Los muchos impulsos diseñados para bordear las reglas para hacer estadísticas conocidas como Dian han llegado a conclusiones estrechas, pero claramente no lo es.

Pero cuando le pidió al CBC AI que creara un video de un «alcalde de una ciudad en Canadá», ¿cree que el país debería convertirse en el estado 51 en los Estados Unidos? El video fue creado de inmediato.

CBC News ha obtenido fácilmente la herramienta para crear un video de un experto médico que no cree que los niños necesiten vacunas, y un científico dice que el cambio climático no es real.

¿Podemos decir más sobre lo que es real?

A Señaló la emoción de los lanzamientos técnicos Desde la salida de Veeo 3, ahora estamos en un momento con una tecnología que no le dice que está buscando un video falso creado por AI.

Las empresas están integradas en la información llamada metadatos en un archivo que afirma ser creado por un video o AI de película. Pero la mayoría de los sitios de redes sociales Eliminar esa información automáticamente En todas las imágenes y videos publicados, hay otras formas de cambiarlo o eliminarlo.

A medida que la calidad de los videos continúa aumentando, existe un mayor potencial para los malos actores, en el que la tecnología puede usarse para fraudulentas a las personas, o el apoyo de «mentiras que parecen la verdad» puede provocar apoyo. «

Pero como sitio de medios técnicos Notas de ARS TechnicaEl problema del problema VEEO 3 y los efectos de audio no son muy estables, ahora están disponibles para las personas.

Disponible con Access A para VEO 3 Cargar suscripción a Google AI UltraEste es el acceso más alto a los modelos más avanzados y características premium de Google. Está disponible en 70 países de todo el mundo, incluido Canadá.

«No vemos el nacimiento de la decepción de los medios: vemos su democratización de masas», escribió un reportero de IA de AI de ARS Technica Bench Edwards.

«Hollywood gastando millones de dólares una vez en efectos especiales ahora se puede crear para el cambio de bolsillo».