Recientemente, los medios informaron que la consultora británica Cambridge Analytica recopiló información privada de los perfiles de Facebook, empleándolos para ayudar a sus clientes a manipular a los votantes (campaña a favor del Brexit, las elecciones en Nigeria o la campaña de Donald Trump). La compañía construyó perfiles psicológicos a partir de datos que subrepticiamente extrajo de las cuentas de 50 millones de usuarios. Mientras, Facebook respondió inicialmente con toda la fanfarronería de un gigante de la tecnología corporativa: “Esto no fue una violación de datos” y luego, tras haber perdido el 18% de su valor bursátil desde el inicio del caso, su dueño, Mark Zuckerberg, se vio obligado a asumir la responsabilidad de la denuncia. Pero lo que hizo Cambridge Analytica no fue único e inusual en los últimos años, cada semana parte de Internet causa algún daño.
Mi experiencia como científico me ha permitido reflexionar sobre esta situación: que el campo de la informática, a diferencia de otras ciencias, aún no se ha enfrentado a las graves consecuencias del trabajo que realizan sus profesionales. La química generó su primera consecuencia con la dinamita; el horror de sus resultados llevó a su inventor, Alfred Nobel, a dar su fortuna al premio que lleva su nombre. Pocos años después, la farmacéutica Clara Immerwahr se suicidó la noche antes de que su esposo y colega químico, Fritz Haber, probara el primer ataque con gas venenoso en el frente oriental durante la primera guerra mundial.
La física tuvo sus consecuencias cuando las bombas nucleares destruyeron Hiroshima y Nagasaki, y muchos físicos se convirtieron en activistas políticos, algunos para el control de armas, otros para el desarrollo de ellas. La medicina tuvo experimentos como el de Tuskegee, donde se inoculó sífilis a un grupo de afrodescendientes, lo que impulsó la implantación de esquemas éticos en las ciencias médicas.
Estos eventos cambiaron profundamente sus respectivos campos, manejando las consecuencias a su manera. Es así que la física y la química rara vez imparten cursos dedicados a la ética, pero esta discusión está entretejida desde los primeros días de la formación universitaria. Por su parte, la ingeniería, la medicina, la biología humana y la psicología, han desarrollado sólidos códigos de ética.
La informática es un campo de la ciencia y de la ingeniería, cuyo propósito es construir sistemas para ser usados por otros. Pero a pesar de que ha tenido su cuota de eventos que pudieron haber provocado un daño más grave, como los accidentes del Therac-25, en los que las máquinas de radioterapia mal programadas ocasionaron la muerte a tres personas o el papel de IBM en el Holocausto, la informática aún no ha llegado a un acuerdo con la responsabilidad que implica la construcción de cosas que afectan tan profundamente a la vida de las personas.
Los ingenieros de software continúan tratando la seguridad y la ética como especialidades, más que como los cimientos de todo diseño. Los líderes empresariales se centran en obtener un producto rápido, confiando en que no se les responsabilizará si ese producto falla catastróficamente y no son lo suficientemente éticos como para exigir precauciones de seguridad.
¿Cómo sería ese estándar de seguridad? Un estándar más alto para la seguridad sería preguntarse “qué pasaría si” en torno a las consecuencias humanas, más que los “y si” en torno a las fallas de la computadora. Si la seguridad fuera lo primero, la API Graph de Facebook utilizada por Cambridge Analytica, probablemente nunca habría sido empleada.
Los códigos de ética en los campos de las ciencias y la tecnología dan a los profesionales más voz para proteger al público. La base de todo esto debe ser un sistema para decidir qué ética de la informática debería ser y cómo deberían aplicarse. Estos códigos deberán ser construidos por un consenso entre las partes interesadas en el campo, desde la industria, la academia, el capital y lo más importante, entre los “computistas” y el público, que en última instancia es el más afectado. En informática, más que en cualquier otro campo, las fallas del sistema tienden a afectar a las personas en diferentes contextos sociales (raza, género, clase social, geografía, discapacidad) de manera diferente.
Hay muchos métodos mediante los cuales los diferentes campos imponen su ética, desde los comités que analizan los experimentos sobre humanos y animales, hasta la certificación de los profesionales que luego supervisarán los proyectos. Cada uno de estos enfoques tiene ventajas, y la informática necesitaría combinar ideas e innovar sobre ellas para construir algo adecuado a sus necesidades específicas.
Lo que no sería aceptable es la consecuencia de la inacción. El público perdería la confianza en la tecnología y los científicos informáticos enfrentarían una serie de consecuencias prácticas, comerciales y regulatorias. Las computadoras han puesto el conocimiento humano a nuestro alcance. Sin embargo, su fracaso, ya sea por accidente o por un diseño irreflexivo, puede tener consecuencias adversas para los individuos y la sociedad por igual. Las cuestiones centrales serían: ¿a qué usos se podría aplicar un sistema? ¿Cómo podría fallar? ¿Y cómo se comportará cuando lo haga? La informática debe intensificar los límites establecidos por sus campos hermanos, antes de su propio colapso, o peor, su propio Hiroshima.
***
Las opiniones expresadas en esta sección son de la entera responsabilidad de sus autores.
