Por qué el uso de Instagram por parte de Facebook para entrenar a la IA levanta banderas de privacidad

Puntos clave

  • Los expertos en privacidad están expresando su preocupación por el uso que hace Facebook de las fotos públicas de Instagram para entrenar la inteligencia artificial.
  • Se le enseñó al programa a reconocer imágenes mostrándole a la computadora más de mil millones de fotos públicas.
  • La política de privacidad de Instagram incluye una sección que les permite a los usuarios saber que la información puede usarse en investigación y desarrollo.

Un busto de una persona con puntos de reconocimiento de IA superpuestos en el área de la cara y el cuello.


El uso de fotos de Instagram por parte de Facebook para entrenar la inteligencia artificial está generando preocupaciones sobre la privacidad.

El gigante de las redes sociales anunciado recientemente que había creado un software que puede aprender de lo que está mirando. Se enseñó al programa a reconocer imágenes mediante la Análisis de más de mil millones de fotos públicas. Los expertos dicen que los usuarios deben ser conscientes de que Facebook está utilizando sus imágenes.

"Se trata de conocer el consentimiento", James E. Lee, director de operaciones de la Centro de recursos de robo de identidaddijo en una entrevista por correo electrónico.

"La política de privacidad de Instagram, que la mayoría de la gente probablemente no lee, establece muy claramente que la empresa se reserva el derecho de usar las fotos que publicas para investigar. Los usuarios pueden activar o desactivar el reconocimiento facial en su configuración de privacidad".


Índice
  1. Puntos clave
  • Mejor que el resto
  • Ya has aceptado este programa
  • Mejor que el resto

    El programa de Facebook, apodado SEER por SElf-supervised, superó a otros modelos de inteligencia artificial (IA) en una prueba de reconocimiento de objetos, afirmó la compañía. El programa logró un "puntaje de precisión de clasificación" del 84,2% cuando se sometió a una prueba que verifica si un programa de IA puede identificar lo que hay en una imagen.

    "El desempeño de SEER demuestra que el aprendizaje autosupervisado puede sobresalir en tareas de visión por computadora en entornos del mundo real", dijo la compañía en un comunicado. entrada en el blog.

    "Este es un gran avance que, en última instancia, despeja el camino para modelos de visión por computadora más flexibles, precisos y adaptables en el futuro".

    Si bien los términos y condiciones de Facebook pueden permitirles aprovechar los datos de los usuarios de esa manera, la mayoría de los usuarios no son conscientes de manera explícita y activa de que sus datos se extraen para tales fines.

    Si se lanza comercialmente, SEER ayudaría a identificar objetos, no personas, sin estar programado para saber a través de una etiqueta qué hay en una foto, dijo Lee. "Esa es una forma más eficiente y rápida que el método actual que requiere grandes conjuntos de datos para hacer coincidir un objeto con su identidad", agregó.

    "Siempre existe la posibilidad de un mal uso, pero también hay beneficios potenciales legítimos de este tipo de tecnología".

    El programa de Facebook podría ayudar a la empresa a controlar mejor el contenido que viola sus políticas, por ejemplo, limitando la exposición no deseada a imágenes obscenas o gráficas, Aimee O'Driscoll, investigadora de seguridad de sitio de privacidad Comparitech, dijo en una entrevista por correo electrónico. También podría usarse para describir imágenes automáticamente, mejorando las experiencias de usuario para personas con discapacidades visuales.


    Ya has aceptado este programa

    La política de privacidad de Instagram incluye una sección que les permite a los usuarios saber que la información puede usarse en investigación y desarrollo. "La empresa está utilizando su tesoro de datos para otra parte de su negocio, de forma similar a como utiliza los datos de los usuarios para alimentar su negocio de publicidad", dijo O'Driscoll.

    "Aun así, los usuarios pueden sentirse incómodos con el uso de sus imágenes de esta manera".

    Yashar Behzadi, director general de Synthesis AI, una empresa que utiliza inteligencia artificial para la visión artificialdijo que los últimos avances de IA de Facebook representan una "mejora significativa" en la capacidad de visión por computadora.

    "Es probable que los usuarios esperen un mejor etiquetado de imágenes y búsqueda contextual, mientras que los anunciantes se beneficiarán de una orientación de usuario más precisa", agregó.

    Pero el enfoque de Facebook de aprovechar miles de millones de imágenes de Instagram plantea serias preocupaciones regulatorias y de privacidad, dijo Behzadi.

    Reconocimiento facial escaneando a una persona de cerca pero también a varias personas en una multitud.


    "Aunque los términos y condiciones de Facebook pueden permitirles aprovechar los datos de los usuarios de esa manera, la mayoría de los usuarios no son conscientes de manera explícita y activa de que sus datos se extraen para tales fines", dijo.

    "Creemos que las empresas deberían ser más directas y transparentes con los usuarios, permitiéndoles un control total sobre sus datos".

    Muchas otras empresas han utilizado inteligencia artificial para identificar el contenido de una imagen, señaló Bobby Gill, director ejecutivo de desarrollador de aplicaciones. Laboratorios de etiqueta azul, en una entrevista por correo electrónico. "Sin embargo, el hecho de que esto casi con certeza se utilizará para marketing es lo que es preocupante", agregó.

    El nuevo programa podría plantear posibles problemas de privacidad, dependiendo de cómo Facebook planee usar el sistema, dijo Gill.

    "Es probable que estos datos sean accesibles para los vendedores técnicos que los usarían para identificar ciertas tendencias basadas en varios elementos identificados en una imagen", dijo.

    "Por ejemplo, ser capaz de extraer información de las imágenes que las personas publican agrega otra dimensión a los sistemas asociativos que generalmente usan el comportamiento para perfilar y apuntar a las personas. Podría llegar a aprender que cualquier persona con, digamos, ranas en 3-7% de sus imágenes es muy probable que compre equipos de fitness para el hogar".

    Entradas Relacionadas

    Subir

    Utilizamos cookies propias y de terceros para personalizar contenidos y analizar el tráfico web. Política de privacidad