Un camino (muy) estrecho para responsabilizar legalmente a las empresas de medios sociales por colaborar con el gobierno en la moderación de contenidos
Durante los últimos años hemos visto numerosos argumentos de que las plataformas de medios sociales son "actores estatales" que "deben transmitir" todo el discurso de los usuarios. Según este argumento, están legalmente obligadas a publicar todo el discurso de los usuarios y a tratarlo por igual. Según la legislación estadounidense, esto es casi siempre incorrecto. La Primera Enmienda, por lo general, sólo exige a los gobiernos que respeten los derechos de libertad de expresión y protege los derechos de las entidades privadas, como los sitios de redes sociales, para que seleccionen el contenido de sus sitios e impongan normas de contenido a sus usuarios.
Entre las teorías de los actores estatales presentadas se encuentra una basada en la colaboración con el gobierno en la moderación de contenidos. "Jawboning" -o cuando las autoridades gubernamentales influyen en las políticas de las empresas en los medios sociales- es muy común. ¿En qué momento, si es que hay alguno, una empresa privada se convierte en un actor estatal cuando actúa de acuerdo con él?
La eliminación de publicaciones o la cancelación de cuentas porque un funcionario o una agencia del gobierno lo ha solicitado o exigido -simplemente espiar las comunicaciones de la gente en nombre del gobierno-plantea graves problemas de derechos humanos. Los recién revisados Principi0os de Santa Clara, que establecen las normas que las plataformas tecnológicas deben tener en cuenta para asegurarse de que ofrecen la transparencia y la responsabilidad adecuadas, examinan específicamente la "participación del Estado en la moderación de contenidos". Como se establece en los Principios "Las empresas deben reconocer los riesgos particulares para los derechos de los usuarios que resultan de la participación del Estado en los procesos de moderación de contenidos. Esto incluye la participación del Estado en el desarrollo y la aplicación de las normas y políticas de la empresa, ya sea para cumplir con la legislación local o para servir a otros intereses del Estado. Son motivo de especial preocupación las demandas y solicitudes de los agentes estatales (incluidos los organismos gubernamentales, las autoridades reguladoras, los organismos encargados de hacer cumplir la ley y los tribunales) para la eliminación de contenidos o la suspensión de cuentas."
Por lo tanto, es importante que exista una vía definida, aunque limitada, para responsabilizar a las empresas de redes sociales de ciertas colaboraciones censoras con el gobierno. Pero el listón para responsabilizar a las plataformas de este tipo de conducta debe ser alto para preservar sus derechos de la Primera Enmienda a editar y curar sus sitios.
Comprobación de si una plataforma es un actor estatal
Proponemos la siguiente prueba. Como mínimo: (1) el gobierno debe sustituir la política editorial del intermediario por la suya propia, (2) el intermediario debe ceder voluntariamente la aplicación editorial de esa política al gobierno en relación con el discurso específico del usuario, y (3) la parte censurada carece de un recurso adecuado contra el gobierno. Estas conclusiones son necesarias, pero no son per se suficientes para establecer que el servicio de medios sociales es un actor estatal; siempre puede haber "alguna razón compensatoria en contra de atribuir la actividad al gobierno".
A la hora de crear la prueba, nos guiamos por dos principios.
En primer lugar, cuando el gobierno coacciona o presiona de otro modo a los editores privados para que censuren, el primer recurso de la parte censurada es un recurso contra el gobierno. La manipulación gubernamental de los sistemas de moderación de contenidos, ya de por sí problemáticos, para controlar el diálogo público y silenciar las voces desfavorecidas plantea problemas clásicos de la Primera Enmienda, y tanto las plataformas como los usuarios deberían poder demandar al gobierno por ello. En los casos de la Primera Enmienda, hay un umbral bajo para las demandas contra los organismos y funcionarios gubernamentales que coaccionan la censura privada: el gobierno puede violar los derechos de la Primera Enmienda de los hablantes con "sistema[s] de censura informal" dirigido a los intermediarios de la expresión. En 2015, por ejemplo, la EFF apoyó una demanda de Backpage.com después de que el sheriff del condado de Cook presionara a los procesadores de tarjetas de crédito para que dejaran de procesar los pagos al sitio web.
En segundo lugar, las empresas de medios sociales deben conservar sus derechos de la Primera Enmienda para editar y curar las publicaciones de los usuarios en sus sitios, siempre y cuando sean ellas las que controlen el proceso editorial. Por lo tanto, tratamos de distinguir aquellas situaciones en las que las plataformas abandonaron claramente el poder editorial y cedieron el control editorial al gobierno de aquellas en las que los deseos del gobierno fueron influyentes, pero no determinantes.
Propusimos esta prueba en un amicus presentado recientemente en el Noveno Circuito en un caso en el que se ha acusado a YouTube de eliminar vídeos de QAnon a petición y por obligación de miembros individuales del Congreso. En ese escrito argumentamos que la prueba no se cumplía en ese caso y que YouTube no podía ser responsable como actor estatal en virtud de los hechos alegados.
Sin embargo, aunque no sean legalmente responsables, las empresas de medios sociales deben revelar voluntariamente a un usuario cuando un gobierno haya exigido o solicitado una acción sobre su publicación, o si la acción de la plataforma fue requerida por la ley. Las plataformas también deben informar de todas las exigencias gubernamentales de moderación de contenidos, y de cualquier participación del gobierno en la formulación o aplicación de políticas editoriales, o en la señalización de publicaciones. Cada una de estas recomendaciones se recoge en los Principios de Santa Clara revisados.
Los Principios de Santa Clara también piden a los gobiernos que limiten su participación en la moderación de contenidos. El Principio para Gobiernos y Otros Actores Estatales establece que los gobiernos "no deben explotar o manipular los sistemas de moderación de contenidos de las empresas para censurar a disidentes, opositores políticos, movimientos sociales o cualquier persona". Los Principios de Santa Clara siguen instando a los gobiernos a revelar su participación en la moderación de contenidos y a eliminar cualquier obstáculo que hayan puesto a las empresas para hacerlo, como las órdenes de mordaza.
Nuestra posición con respecto a que la acción del Estado se establece mediante la colaboración gubernamental contrasta con las posiciones más absolutas que hemos adoptado contra otras teorías de la acción del Estado.
Aunque hemos criticado duramente la forma en que las grandes empresas de redes sociales seleccionan la expresión de los usuarios y su impacto diferencial en aquellos a los que tradicionalmente se les ha negado la voz, también nos preocupa que el hecho de exigir a las empresas de redes sociales que cumplan con las normas legales de la Primera Enmienda obstaculice su capacidad de moderar el contenido de forma que sirva a los usuarios: eliminando o reduciendo la clasificación de las publicaciones que, aunque estén legalmente protegidas, son acosadoras o abusivas para otros usuarios, o que simplemente son ofensivas para muchos usuarios a los que la empresa pretende llegar; o adoptando políticas o normas comunitarias que se centran en determinados temas o comunidades, y excluyendo las publicaciones fuera de tema. Muchas empresas de redes sociales ofrecen servicios de curación que sugieren o dan prioridad a determinadas publicaciones sobre otras, ya sea a través del feed Top Stories de Facebook, o el feed Home de Twitter, etc., que parecen gustar a algunos usuarios. Además, existen numerosos problemas prácticos. En primer lugar, las distinciones claras entre el discurso legal y el ilegal son a menudo esquivas. Las fuerzas del orden a menudo se equivocan y los jueces y jurados tienen problemas con estas distinciones. En segundo lugar, no refleja la realidad: todos los servicios de redes sociales tienen una política editorial que excluye o al menos desfavorece ciertos discursos legales, y siempre han tenido esas políticas.
Presentamos nuestro primer amicus brief exponiendo esta posición en 2018 y escribimos sobre ella here. Y hemos estado haciendo valer esa posición en varios asuntos legales de Estados Unidos desde entonces. Ese primer caso y otros similares argumentaron incorrectamente que las empresas de medios sociales funcionaban como foros públicos, lugares abiertos al público para asociarse y hablar entre sí, y por lo tanto deben ser tratados como foros públicos controlados por el gobierno, como parques y aceras.
Otros casos y las leyes de medios sociales aprobadas por Florida y Texas también argumentaban que los servicios de medios sociales, al menos los más grandes, eran "portadores comunes" que están abiertos a todos los usuarios en igualdad de condiciones. En esos casos, nuestro razonamiento para impugnar las leyes seguía siendo el mismo: los usuarios están mejor servidos cuando las empresas de medios sociales están protegidas de la interferencia gubernamental en sus políticas y decisiones editoriales
Esta postura basada en una política era coherente con lo que considerábamos el argumento legal correcto: que las propias empresas de redes sociales tienen el derecho de la Primera Enmienda a adoptar políticas editoriales y a curar y editar el discurso de los usuarios que se les presenta. Y es importante defender ese derecho de la Primera Enmienda para evitar que estos servicios se conviertan en portavoces obligados o censores del gobierno: si no tuvieran sus propios derechos de la Primera Enmienda para editar y curar sus sitios como les parezca, entonces los gobiernos podrían decirles cómo editar y curar sus sitios de acuerdo con los deseos del gobierno.
Mantenemos nuestra posición de que las plataformas de medios sociales tienen derecho a moderar los contenidos, y creemos que permitir que el gobierno dicte lo que las plataformas de expresión pueden y no pueden publicar es anatema para nuestra democracia. Pero cuando la censura es una colaboración entre empresas privadas y el gobierno, debería haber una vía estrecha y limitada para exigirles responsabilidades.
