¿Las empresas de internet deberían ser responsables por el contenido que suben sus usuarios?
Hace dos semanas se presentó un caso frente a la Suprema Corte de Justicia de los Estados Unidos que buscaba decidir el futuro del internet, y aunque la corte no quiso tomar postura y básicamente decidió que el tema debía legislarse en el congreso, el caso al menos revivió una discusión crítica sobre la necesidad de repensar las libertades de expresión y la moderación en internet.
El caso concierne a la familia de Nohemi González, quien fue víctima de un ataque terrorista en París en 2015. La familia González exige responsabilidad por parte de Google, propietaria de Youtube, por difundir videos de ISIS a través de los cuales, según la familia, se radicalizaron e influenciaron las personas que realizaron el atentado que dejó 130 muertos. Sin embargo, Google y el resto de la industria de internet están protegidos por una norma llamada la sección 230.
La sección 230 del Communications Decency Act de USA otorga privilegios sin responsabilidad para que las compañías de internet puedan publicar y moderar la información que decidan sin ningún tipo de consecuencia legal por el contenido. Según la ley, las empresas de internet no se consideran como editoras (publishers) de los contenidos que publiquen, y por lo tanto no son responsables por dichos textos, videos e imágenes. Esto significa que si Youtube permite que se suban videos promoviendo violencia en contra de una minoría o adoctrinando e invitando a jóvenes a grupos terroristas, Youtube no tiene ningún tipo de responsabilidad. Para explicar mejor las razones detrás de la protección se suele utilizar la siguiente analogía.
Imaginemos una biblioteca que contiene miles de libros con distintos tipos de contenidos. Nunca pensaríamos en sancionar o hacer responsable a la biblioteca por los textos e imágenes de los ejemplares que prestan al público. En este caso corresponde a las editoriales, quienes publican y editan esos libros, cargar con la responsabilidad de moderar el contenido. Por otro lado, ahora pensemos en el periódico Washington Post, si ellos publican una historia con falsedades o información que promueva la violencia sí son responsables, porque su equipo crea el contenido, incluso si se trata de una columna invitada el periódico responde porque son quienes moderan y editan el texto. Esto significa que esos textos se consideran cómo "Speech" o discurso/expresión del Washington Post. En el caso de la biblioteca, el contenido de los libros que resguarda no son discurso de la biblioteca, pero sí de las editoriales. Todo esto lo menciono para poder explicar la lógica detrás de los argumentos del abogado que representaba a la familia González en contra de Google.
El fiscal que presentó el caso frente a la Corte quería convencerlos de que Google, a través de Youtube, tiene control editorial de los videos que muestra, ya que utiliza un algoritmo para recomendar contenido y hasta reproducir videos automáticamente que cree que puedan interesarles a sus usuarios. Este acto de recomendación es edición y por lo tanto también es Speech de Youtube, es decir, no solo es de los autores o editores de los videos. Esto significaría que Youtube es responsable del contenido también. La sección 230 protege a las empresas de internet sólo porque no tienen control editorial, es decir, se supone que tienen cero control sobre lo que se publica, pero este argumento del fiscal presenta la posibilidad de que los algoritmos de Google son una forma de expresión propia, y por lo tanto, susceptibles de demandas y consecuencias legales. El fiscal continuó diciendo que esto aplicaría para todos los casos, cualquier algoritmo de recomendación sería expresión o discurso de la plataforma que lo utiliza.
Por el otro lado, la abogada de la defensa de Google rechaza lo anterior, ya que comenta que el algoritmo no es mas que una herramienta para que la plataforma pueda funcionar y dar una experiencia a la medida para los usuarios. Y continuó por llevar a las últimas consecuencias la postura de la otra parte. Si es que se acepta que Youtube es responsable por los videos que recomienda, lo mismo se consideraría para Twitter en su newsfeed o en Google en sus resultados de búsqueda. El moderar todo el contenido impulsado por estos algoritmos representaría una tarea insostenible para las empresas de internet. Por lo tanto, el privilegio de publicar cualquier contenido sin ninguna repercusión para la industria del internet debería ser ilimitado. Incluso si Google decidiera crear un algoritmo que recomendara solo videos de ISIS, esto estaría protegido por la sección 230, argumentó la abogada. Ante estas posturas extremas los ministros de la corte se declararon básicamente incompetentes para decidir los límites de los privilegios con los que cuentan estas empresas. Y consideraron que debería ser el congreso quien resuelva esto mediante reformas a las legislaciones.
Algunos piensan que, en el fondo, este caso trata sobre los privilegios ilimitados de las empresas para publicar, recomendar, editar y promover contenido sin ninguna repercusión legal, protegiéndose con una ley que se creó en los 90s cuando el internet apenas iniciaba. Los legisladores de ese momento no podían imaginarse el tipo de algoritmos que utilizarían esas futuras empresas para atraer a los usuarios, incluso a costa de su salud mental o la promoción de violencia. Por otro lado, los puristas del "free speech" creen que hacer responsables a esas compañías es un ataque a la libertad de expresión, sin embargo siempre ha habido límites a esa libertad. Las libertades en los estados contemporáneos no son absolutas. Debería ser responsabilidad de la sociedad reflexionar y legislar sobre dónde deberían estar los límites. El trágico caso de París, los ataques del 6 de Enero en Washington, así como las revelaciones de los algoritmos nocivos de Facebook expuestos por sus ex-empleados, nos empujan a repensar la desregularización total. Quizá muchos concluyan que la respuesta sigue siendo que el internet no puede existir si es regulado, pero es importante pensar también en las consecuencias de ese escenario, ya que diario las estamos viviendo.