‘El negocio de la guerra’: los empleados de Google se quejan del trabajo para el Pentágono

Miles de empleados de Google, entre ellos decenas de ingenieros de alto rango, han firmado una carta en la que se quejan de la participación de la empresa en un programa del Pentágono que usa inteligencia artificial para interpretar imágenes de video y podría utilizarse para mejorar la precisión de los ataques con drones.

La carta, que está circulando dentro de Google y ha reunido más de 3100 firmas, refleja un enfrentamiento cultural entre Silicon Valley y el gobierno federal que probablemente se intensificará conforme la inteligencia artificial de avanzada se emplee cada vez más con propósitos militares.

Lea también: Los rostros detrás de los drones para la guerra

“Creemos que Google no debería participar en el negocio de la guerra”, se lee en la carta, dirigida a Sundar Pichai, el director ejecutivo de la empresa. Le piden a Google que se retire de Project Maven, un programa piloto del Pentágono, y que anuncie una política de que “no construirá jamás tecnología de guerra”.

Ese tipo de postura idealista, aunque en efecto no es compartida por todos los empleados de Google, es natural para una empresa cuyo logo es “No seas malvado”, una frase que se mencionó en la carta de protesta. Sin embargo, esa lógica es claramente ajena a la industria masiva de defensa de Washington y, sobre todo, al Pentágono, donde el secretario de Defensa, Jim Mattis, a menudo ha dicho que un objetivo principal es aumentar la “letalidad” del Ejército estadounidense.

Desde sus primeros días, Google ha animado a sus empleados a alzar la voz en torno a temas que involucran a la empresa. Proporciona tableros de mensajes internos y redes sociales en las que los empleados desafían la gestión y a ellos mismos acerca de los productos y las políticas de la empresa. Hace poco, el agitado debate acerca de los esfuerzos de Google para crear una fuerza de trabajo más diversa se reveló al público.

Los empleados de Google han hecho circular peticiones de protesta sobre varios temas, entre ellos Google Plus, el competidor rezagado de Facebook, y el patrocinio de Google a la Conferencia de Acción Política Conservadora.

Los empleados plantearon preguntas acerca de la participación de Google en Project Maven en una reunión reciente a nivel de toda la empresa. En ella, Diane Greene, quien dirige el negocio de infraestructura de la nube de Google, defendió el acuerdo para tranquilizar a los empleados preocupados. Un portavoz de la empresa dijo que la mayoría de las firmas en la carta de protesta habían sido recolectadas antes de que la empresa tuviera la oportunidad de explicar la situación.

Después, la empresa describió su trabajo en Project Maven como de naturaleza “no ofensiva”, aunque el análisis de video del Pentágono se utiliza de manera rutinaria en operaciones de contrainsurgencia y contraterrorismo, y las publicaciones del Departamento de Defensa dejan claro que el proyecto apoya esas operaciones. Tanto Google como el Pentágono dijeron que los productos de la empresa no crearían sistemas de armas autónomas que puedan disparar sin un operador humano, una posibilidad muy debatida en la utilización de la inteligencia artificial.

Sin embargo, el análisis mejorado del video de drones podría usarse para detectar blancos humanos en ataques, identificando mejor a los civiles para reducir los asesinatos accidentales de gente inocente.

Sin hacer referencia directamente a la carta dirigida a Pichai, Google señaló mediante una declaración que “cualquier uso militar del aprendizaje automatizado plantea naturalmente preocupaciones válidas”. Agregó: “En toda la empresa estamos participando activamente en una discusión integral de este tema tan importante”. La compañía señaló que ese tipo de intercambios eran “muy importantes y benéficos”, aunque varios empleados de Google que conocen la carta solo hablaron al respecto bajo condición de conservar su anonimato, y dijeron que estaban preocupados de que haya represalias.

En la declaración se mencionó que la empresa participa en Project Maven “específicamente con propósitos no ofensivos”, aunque los funcionarios no quisieron mostrar el texto contractual relevante para el asunto. El Departamento de Defensa mencionó que, debido a que en Project Maven Google es un subcontratista del contratista principal, ECS Federal, no podía proporcionar ni la cantidad ni lo mencionado en el contrato de Google. ECS Federal no respondió a nuestras preguntas.

Lea también: La guerra de los drones

La inquietud acerca de los contratos del Ejército entre una pequeña fracción de los más de 70.000 empleados de Google podría no plantear un gran obstáculo para el crecimiento de la empresa. No obstante, en el área enrarecida de la investigación de inteligencia artificial, Google está involucrada en una competencia intensa con otras empresas de tecnología para atraer a las personas más talentosas, así que los reclutadores podrían verse afectados si algunos candidatos se sienten desanimados por los vínculos de Google con los organismos de defensa.

Mientras Google defiende sus contratos de la disidencia interna, sus competidos no han sido tímidos a la hora de hacer público su propio trabajo en los proyectos de defensa. Amazon pregona su trabajo de reconocimiento de imágenes con el Departamento de Defensa, y Microsoft ha promovido el hecho de que su tecnología de nube obtuvo un contrato para manejar información clasificada de todas las ramas de las agencias de defensa y militares.

La disputa actual, que se reportó primero en Gizmodo, se enfoca en Project Maven, que comenzó el año pasado como un programa piloto para encontrar maneras de agilizar la aplicación militar de la tecnología de IA más reciente. Se espera que cueste menos de 70 millones de dólares en su primer año, de acuerdo con una portavoz del Pentágono. Sin embargo, claramente quienes firmaron la carta en Google esperan desanimar a la empresa a participar en contratos más grandes del Pentágono conforme las aplicaciones de defensa de la IA crecen.

Se espera que Google compita en gran medida con otros gigantes de la tecnología, entre ellos Amazon y Microsoft, para obtener un contrato multimillonario de varios años que proporcione servicios en la nube al Departamento de Defensa. John Gibson, el director de gestión del departamento, dijo el mes pasado que el programa de procuración Joint Enterprise Defense Infrastructure Cloud fue diseñado en parte para “aumentar la letalidad y la prontitud”, lo cual enfatiza la dificultad de separar el software, el almacenamiento en la nube y los servicios relacionados del negocio actual de la guerra.

The New York Times

Miles de empleados de Google, entre ellos decenas de ingenieros de alto rango, han firmado una carta en la que se quejan de la participación de la empresa en un programa del Pentágono que usa inteligencia artificial para interpretar imágenes de video y podría utilizarse para mejorar la precisión de los ataques con drones.

La carta, que está circulando dentro de Google y ha reunido más de 3100 firmas, refleja un enfrentamiento cultural entre Silicon Valley y el gobierno federal que probablemente se intensificará conforme la inteligencia artificial de avanzada se emplee cada vez más con propósitos militares.

Lea también: Los rostros detrás de los drones para la guerra

“Creemos que Google no debería participar en el negocio de la guerra”, se lee en la carta, dirigida a Sundar Pichai, el director ejecutivo de la empresa. Le piden a Google que se retire de Project Maven, un programa piloto del Pentágono, y que anuncie una política de que “no construirá jamás tecnología de guerra”.

Ese tipo de postura idealista, aunque en efecto no es compartida por todos los empleados de Google, es natural para una empresa cuyo logo es “No seas malvado”, una frase que se mencionó en la carta de protesta. Sin embargo, esa lógica es claramente ajena a la industria masiva de defensa de Washington y, sobre todo, al Pentágono, donde el secretario de Defensa, Jim Mattis, a menudo ha dicho que un objetivo principal es aumentar la “letalidad” del Ejército estadounidense.

Desde sus primeros días, Google ha animado a sus empleados a alzar la voz en torno a temas que involucran a la empresa. Proporciona tableros de mensajes internos y redes sociales en las que los empleados desafían la gestión y a ellos mismos acerca de los productos y las políticas de la empresa. Hace poco, el agitado debate acerca de los esfuerzos de Google para crear una fuerza de trabajo más diversa se reveló al público.

Los empleados de Google han hecho circular peticiones de protesta sobre varios temas, entre ellos Google Plus, el competidor rezagado de Facebook, y el patrocinio de Google a la Conferencia de Acción Política Conservadora.

Los empleados plantearon preguntas acerca de la participación de Google en Project Maven en una reunión reciente a nivel de toda la empresa. En ella, Diane Greene, quien dirige el negocio de infraestructura de la nube de Google, defendió el acuerdo para tranquilizar a los empleados preocupados. Un portavoz de la empresa dijo que la mayoría de las firmas en la carta de protesta habían sido recolectadas antes de que la empresa tuviera la oportunidad de explicar la situación.

Después, la empresa describió su trabajo en Project Maven como de naturaleza “no ofensiva”, aunque el análisis de video del Pentágono se utiliza de manera rutinaria en operaciones de contrainsurgencia y contraterrorismo, y las publicaciones del Departamento de Defensa dejan claro que el proyecto apoya esas operaciones. Tanto Google como el Pentágono dijeron que los productos de la empresa no crearían sistemas de armas autónomas que puedan disparar sin un operador humano, una posibilidad muy debatida en la utilización de la inteligencia artificial.

Sin embargo, el análisis mejorado del video de drones podría usarse para detectar blancos humanos en ataques, identificando mejor a los civiles para reducir los asesinatos accidentales de gente inocente.

Sin hacer referencia directamente a la carta dirigida a Pichai, Google señaló mediante una declaración que “cualquier uso militar del aprendizaje automatizado plantea naturalmente preocupaciones válidas”. Agregó: “En toda la empresa estamos participando activamente en una discusión integral de este tema tan importante”. La compañía señaló que ese tipo de intercambios eran “muy importantes y benéficos”, aunque varios empleados de Google que conocen la carta solo hablaron al respecto bajo condición de conservar su anonimato, y dijeron que estaban preocupados de que haya represalias.

En la declaración se mencionó que la empresa participa en Project Maven “específicamente con propósitos no ofensivos”, aunque los funcionarios no quisieron mostrar el texto contractual relevante para el asunto. El Departamento de Defensa mencionó que, debido a que en Project Maven Google es un subcontratista del contratista principal, ECS Federal, no podía proporcionar ni la cantidad ni lo mencionado en el contrato de Google. ECS Federal no respondió a nuestras preguntas.

Lea también: La guerra de los drones

La inquietud acerca de los contratos del Ejército entre una pequeña fracción de los más de 70.000 empleados de Google podría no plantear un gran obstáculo para el crecimiento de la empresa. No obstante, en el área enrarecida de la investigación de inteligencia artificial, Google está involucrada en una competencia intensa con otras empresas de tecnología para atraer a las personas más talentosas, así que los reclutadores podrían verse afectados si algunos candidatos se sienten desanimados por los vínculos de Google con los organismos de defensa.

Mientras Google defiende sus contratos de la disidencia interna, sus competidos no han sido tímidos a la hora de hacer público su propio trabajo en los proyectos de defensa. Amazon pregona su trabajo de reconocimiento de imágenes con el Departamento de Defensa, y Microsoft ha promovido el hecho de que su tecnología de nube obtuvo un contrato para manejar información clasificada de todas las ramas de las agencias de defensa y militares.

La disputa actual, que se reportó primero en Gizmodo, se enfoca en Project Maven, que comenzó el año pasado como un programa piloto para encontrar maneras de agilizar la aplicación militar de la tecnología de IA más reciente. Se espera que cueste menos de 70 millones de dólares en su primer año, de acuerdo con una portavoz del Pentágono. Sin embargo, claramente quienes firmaron la carta en Google esperan desanimar a la empresa a participar en contratos más grandes del Pentágono conforme las aplicaciones de defensa de la IA crecen.

Se espera que Google compita en gran medida con otros gigantes de la tecnología, entre ellos Amazon y Microsoft, para obtener un contrato multimillonario de varios años que proporcione servicios en la nube al Departamento de Defensa. John Gibson, el director de gestión del departamento, dijo el mes pasado que el programa de procuración Joint Enterprise Defense Infrastructure Cloud fue diseñado en parte para “aumentar la letalidad y la prontitud”, lo cual enfatiza la dificultad de separar el software, el almacenamiento en la nube y los servicios relacionados del negocio actual de la guerra.

The New York Times