Todo empezó con el chisme de Nvidia. Jensen Huang reconoció una infidelidad y el consejo de la empresa abrió una investigación para determinar si había sido blanco de una operación de inteligencia extranjera. Todo este escándalo me recordó aquellos tiempos de la guerra tecnológica nuclear, la guerra fría y hasta me recordó a Mata Hari. Lo que me hizo seguir pensando fue la facilidad con que una historia sobre la vida privada de una persona terminó convertida en una discusión sobre la seguridad de un país. Associated Press
Una infidelidad ocurre todos los días. Esta ocupó titulares porque el hombre dirigía una empresa cuyos chips son importantes para el desarrollo de la inteligencia artificial. De pronto, una relación personal interesaba también por lo que alguien en esa posición podría saber, compartir o decidir. El espionaje y la competencia entre países ya los conocíamos. Lo que me llamó la atención fue hasta qué punto una empresa, y las personas que toman decisiones dentro de ella, pueden quedar en medio de esa competencia y sobre todo quién es responsable y si enfrentarán consecuencias.
Y entonces pensé en las fronteras. ¿Qué significa que un país pueda decidir quién compra ciertos chips? ¿Dónde está la línea que alguien cruza cuando comparte información con quien no debía? Son límites que hemos puesto los seres humanos. Quise entender en qué se parecen a los que ya conocemos.
Si uno mira la Tierra desde el espacio, ve montañas, ríos y costas. Las líneas que separan a los países las dibujamos nosotros. Les dimos significado con nuestras historias, nuestras ideas y, en muchos casos, nuestras guerras. También hicimos banderas. Alguien podría decir que son trapos de colores, y tendría razón si solo estuviera hablando de la tela. Somos nosotros quienes les dimos la capacidad de representar a un pueblo. Y aunque la línea de un mapa sea imaginaria, basta con cruzarla para saber que sus consecuencias son reales. Cambian las leyes, cambia la autoridad ante la que puedo reclamar y, muchas veces, cambia lo que la gente entiende por una responsabilidad.
¿Qué sería el equivalente de esa frontera en la tecnología?
Pienso en el momento en que una aplicación me pide que acepte sus condiciones. Yo veo un botón. Detrás de ese botón, alguien ya decidió quién puede ver lo que entrego, quién puede copiarlo y quién puede usarlo para un fin que quizá jamás se me ocurrió, peor aún, en qué país y bajo qué jurisdicción se encuentra esa empresa, o servidor que tiene mis datos. Esas decisiones también trazan fronteras. Una idea política sobre quién puede entrar a un territorio termina en un puesto fronterizo. Una idea sobre quién puede acceder a mi información termina en un permiso que alguien programó. En ambos casos, un ser humano decidió dónde poner la línea.
Hay algo que me inquieta todavía más. Yo puedo seguir sentado en la misma silla mientras mis datos pasan de una empresa a otra. En ese momento me importa saber dónde terminaron, claro. Pero me importa más saber quién tenía la obligación de cuidarlos. Si alguien los usa indebidamente, ¿quién tiene que explicarme lo que pasó? ¿Quién tiene acceso a las pruebas? ¿Y qué pasa si la consecuencia para la empresa es tan pequeña que puede pagarla y seguir operando exactamente igual? Para mí, un límite se pone a prueba cuando a quien tiene el poder le conviene cruzarlo.
Ahora bien, también nosotros participamos en esto. Publicamos una foto, recibimos comentarios, vemos que sube el número de seguidores y publicamos otra. A veces sabemos muy poco de lo que estamos entregando. Otras veces sabemos lo suficiente y preferimos seguir porque nos gusta que nos vean. Nos enorgullece que miles de personas puedan mirar lo que hacemos. ¿Cuántas veces nos preguntamos quién más puede usar eso que acabamos de mostrar y para qué?
Cuando hablo de la estupidez humana, me incluyo. Me refiero a esa facilidad que tenemos para dejar de hacernos preguntas en cuanto algo nos halaga o nos promete un beneficio inmediato. Y si todos tenemos esa debilidad, imagínese lo rentable que puede ser para alguien aprender a estimularla. De un lado está mi deseo de que me miren. Del otro, el interés de una empresa en que yo siga dando motivos para que me miren. Yo tengo que responder por lo que decido publicar. Quien recibe esa información tiene que responder por el uso que hace de ella. El poder de uno y otro para decidir qué ocurre después es muy distinto.
La inteligencia artificial me hace ver el mismo problema con más claridad. Nos entusiasma descubrir lo que puede hacer. También deberíamos preguntarnos qué estamos dispuestos a entregarle para que lo haga, quién fija las condiciones y quién responde por las consecuencias. Cuando decimos «así funciona el sistema», me pregunto a quién dejamos fuera de la frase. Alguien escogió qué información pedir. Alguien autorizó un uso. Alguien decidió que valía la pena correr un riesgo que quizá terminaría pagando otra persona.
La semana pasada, al hablar de todo esto, alguien me preguntó: «¿Y cómo le hacemos?». Lo primero que se me ocurrió fue que tendríamos que dominar el ego y la avaricia para poder volver a empezar. Suena utópico. Pero tal vez podamos empezar por educarnos para reconocerlos cuando intervienen en nuestras propias decisiones. Pensar críticamente también es detenerme a preguntar por qué quiero publicar esa foto, qué espero recibir a cambio y si me parece razonable lo que estoy entregando. Es una pregunta incómoda porque la respuesta puede ser tan sencilla como «quiero que me vean».
Y hay otra parte de la respuesta que depende de lo que seamos capaces de acordar juntos. Si le pedimos al ciudadano que sepa ponerse límites, también tenemos que exigir que quienes reciben sus datos tengan límites que se puedan hacer cumplir. Que alguien pueda explicar una decisión, que haya cómo reclamar y que las consecuencias importen incluso para quien puede pagar una multa sin mirar el saldo.
Desde el espacio no se ven las fronteras. Las dibujamos nosotros porque decidimos que ciertas líneas debían tener consecuencias. Frente a una pantalla hemos hecho algo parecido. Dibujamos con mucho cuidado la línea que impide al usuario seguir si no acepta. Ahora me pregunto quién va a dibujar la línea que le diga a quien recibe sus datos: hasta aquí puedes llegar.
