Los peligros del Big Data: la caja negra

El pasado enero salió a la venta The Black Box Society. The Secret Algorithms That Control Money and Information (Harvard UP), del jurista y académico Frank Pasquale. Para conocer la repercusión del volumen, recomiendo, por ejemplo, la reseña de David Auerbarch para Slate.

The Black Box Society

Amén de lo anterior, y dado el tema que trata, desde hace meses distintos medios han estado informando sobre su inminente aparición, con entrevistas a su autor sobre el contenido.  Es el caso de la revista TRUE (núm. 8). Dicha publicación, perteneciente al conglomerado FleishmanHillard, lo presentaba del siguiente modo:

“Olvídese de Edward Snowden y del espionaje gubernamental. El profesor de derecho Frank Pasquale examina la actual recopilación de datos generalizada y sin restricciones para el negocio en The Black Box Society (…). Plantea preguntas sobre lo que puede suceder con las personas, las empresas y las economías cuando algunos de los datos resultan ser incorrectos. ¿Debería permitirse a los sujetos sometidos al microscopio de datos hacer frente a sus acusadores, por así decirlo? (…)

TRUE: ¿Qué quiere decir cuando se habla de una sociedad tipo Black box?

Pasquale: Los ingenieros utilizan el término caja negra para describir un sistema en el que podemos ver a los inputs entrando y los outputs saliendo, pero en el que entre unos y otros existe algún proceso opaco, intangible, que transforma las enradas en salidas bajo un velo de secreto. Google a veces se refiere a su algoritmo de caja negra como el ingrediente secreto que les da una ventaja competitiva. Las empresas confían cada vez más en esta estrategia del secreto cuando se trata de datos, presuponiendo que la gente manipularía el sistema si supiera cómo funciona. Esa es la explicación más obvia del término caja negra.

Pero cuando se me ocurrió el título, también estaba pensando en la caja negra de los aviones, que desempeña su papel en los accidentes. Esa caja negra es algo que registra todo lo que está pasando en el avión y registra algo así como 30.000 variables. Si nos fijamos en el Internet de las cosas, en los datos masivos y en la ubicuidad de las redes de sensores, es casi como si estuviéramos siendo monitoreados al modo del avión. Todos tenemos nuestras propias cajas negras. Suponemos que de nuestro uso de Internet se haga un seguimiento, que sea troceado y monitoreado, pero ahora, con el Internet de las cosas, incluso nuestro espacio real más allá de Internet también se está supervisando.

Es por eso que cuando hay una violación de datos -si se piensa en la recopilación de datos de esta manera- se ve el enorme potencial de daño. Piense en los mercados negros de datos donde se venden archivos, contraseñas, nombres de usuario, números de tarjetas de seguridad social, números de tarjetas de crédito e incluso registros médicos. El potencial de la recolección de datos se extiende mucho más allá de la simple personalización de mensajes de marketing.

(…)”

Si esa es la idea general, el método utilizado y el argumento central los relató su autor en una conversación con Lawrence Joseph para el blog Balkinization:

(…)

LJ: El método de análisis del libro,  ¿podría explicarlo?

FP: Trato de zambullirme en las ciencias sociales. Esta es una respuesta a la obra de Ian Shapiro (que ha clamado por la investigación orientada por problemas –problem driven– para complementar el trabajo orientado por el método –method driven), Russ Roberts (un crítico  de los modelos matemáticos en economía)  y Thomas Piketty (quien ha integrado enfoques históricos, económicos y literarios en El Capital en el siglo XXI).

El asunto central de The Black Box Society -agnotología, la supresión o destrucción de conocimiento- es un tema particularmente difícil de interpretar de forma metódica. Pero he tratado de poner de relieve algunas controversias muy importantes, mostrar su relevancia más amplia y explicar qué leyes tendrían que cambiar para que entendiéramos realmente el valor de lo que los brokers  de datos, motores de búsqueda, financieros o contratistas de seguridad nacional están haciendo. Justifico esas propuestas de política en relación con el trabajo emergente en las ramas más normativamente orientadas de la economía política y la ciencia social.

También me inspiro algo en Nancy Krieger, que desafió a los que atribuye los eventos a una “red de causalidad” a pensar más profundamente acerca de lo que une las causas. “¿Dónde está la araña?”, se preguntaría Krieger acerca de esas webs. En mi caso, acontecimientos como la crisis financiera aún son vistos  por mucha gente como resultado de transacciones increíblemente complejas y opacas, apuestas y promesas. Pero, ¿a quién benefician en última instancia? ¿Cuáles de sus acciones se difundieron a los cuatro vientos y cuáles se ocultaron? ¿Quién está atrapado en la web, y quien se desliza sin esfuerzo a la parte superior de la misma?

(…)

LJ: ¿Cómo resumiría los temas principales del libro y las afirmaciones de hecho?

FP: El libro critica a Silicon Valley y a Wall Street, ofrece una guía de lo que podría ser una mejor respuesta legal a sus abusos, y sirve como introducción a una economía política de la información. Permítame tratarlos uno a uno.

He aquí una paradoja que estoy tratando de resolver: incluso cuando el cambio económico parece acelerarse las jerarquías existentes de poder y riqueza parecen cada vez más osificadas, estables, seguras. Trazo este problema a partir de dos tendencias que se refuerzan mutuamente: la financiarización de los datos, y la datificación de las finanzas.

(…)

Como sucedió en anteriores fiebres del oro, la carrera de los plutócratas (plutechrats) por amasar, controlar y manipular datos daña inevitablemente a la gente comun y a las empresas que necesitan préstamos o inversiones, o una plataforma, un auditorio, aplicaciones, etc. Parte de la historia que cuento es cómo la manipulación magistral de la ley ha permitido a los gigantes de la tecnología y las finanzas crecer increíblemente rápido, desviando los tipos de regulación que habrían creado un campo de juego de económico de más nivel. Europa está empezando a ponerse al día con ellos mediante la aplicación de las leyes existentes. Mi libro muestra cómo los EE.UU. podrían, tal vez, hacer lo que Europa, utilizando herramientas que van desde la protección del consumidor a una regulación financiera renovada.

Yo defiendo una política mucho más agresiva en cuanto a la utilización de datos por las grandes empresas. (…)

También reconozco que la ampliación de las leyes actuales puede no estar a la altura de la regulación de una nueva economía, basada en datos. Así que voy a plantear alternativas públicas en muchas áreas críticas: motores de búsqueda, banca y calificaciones de crédito públicos son un comienzo.

(…)”

 ©2015 FleishmanHillard / Balkin.com

 


Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *