Empresas de IA como Anthropic y OpenAI publican regularmente reportes sobre cómo las personas usan sus productos. Pero solo divulgan los datos que quieren que veamos, dijeron investigadores en IA, y no existe una fuente independiente que corrobore la información.
Un nuevo proyecto de investigación llamado AI Observatory busca llenar esa brecha. Su análisis muestra muchos más comportamientos sensibles de los que capturan los reportes de las principales empresas de IA, que se enfocan más en uso laboral que personal. Los investigadores también encontraron diferencias significativas entre modelos: las personas recurren más a Anthropic para codificación, a Gemini para usos sociales y de rol, y a ChatGPT para ayuda con tareas escolares.
Flock Safety, la gigante de tecnología policial conocida por su red de aproximadamente 120.000 lectores automáticos de placas alrededor de Estados Unidos, anunció recientemente cambios en su plataforma. Las actualizaciones buscan evitar que los oficiales la usen con propósitos ilegales o ilegítimos, incluyendo acoso.
Recientemente ha habido varios argumentos defendiendo a Flock: si estas cámaras ayudan a resolver crímenes, ¿es realmente un gran problema? En un buen día podrían ayudar a capturar a un secuestrador, y si no, simplemente están fotografiando mi auto que nadie se molestará en mirar.
Pero esto pasa por alto una pregunta más importante: ¿Qué tipo de sistema de persecución de crímenes ha elegido construir Flock? Su red funciona como lo hace por decisiones sobre qué información recopilar, quién puede buscarla, cuánto tiempo guardarla y cuán ampliamente compartirla. Esas decisiones establecen los términos del acuerdo entre seguridad y libertades civiles.
