Cómo arreglar Facebook antes de que nos arregle a nosotros
Un inversor inicial explica por qué el modelo comercial de la plataforma de medios sociales es una amenaza y qué hacer al respecto.
por Roger McNamee |
Washington Monthly
A principios de 2006, recibí una llamada de Chris Kelly, entonces director de privacidad de Facebook, y me pregunté si estaría dispuesto a reunirme con su jefe, Mark Zuckerberg. He sido un inversionista en tecnología por más de dos décadas, pero la reunión fue diferente a todas las que tuve. Mark solo tenía veintidós. Estaba enfrentando una decisión difícil, dijo Chris, y quería el consejo de una persona con experiencia y sin intereses en el resultado.
Cuando nos conocimos, comencé por dejar que Mark supiera la perspectiva desde la que venía. Pronto, predije, obtendría una oferta de mil millones de dólares para comprar Facebook de Microsoft o Yahoo, y todos, desde la junta de la compañía hasta el personal ejecutivo y los padres de Mark, le aconsejarían que lo tome. Le dije a Mark que debería rechazar cualquier oferta de adquisición. Tuvo la oportunidad de crear una gran compañía única si se mantuvo fiel a su visión. A los dos años, Facebook todavía estaba a años de su primer dólar de ganancias. Todavía se limitaba principalmente a los estudiantes y carecía de la mayoría de las características que damos por sentado hoy. Pero estaba convencido de que Mark había creado una plataforma de cambio de juego que eventualmente sería más grande de lo que era Google en ese momento. Facebook no fue la primera red social, pero fue la primera en combinar la verdadera identidad con la tecnología escalable. Le dije a Mark que el mercado era mucho más grande que solo los jóvenes; el valor real vendría cuando adultos, padres y abuelos ocupados se unieran a la red y la utilizaran para mantenerse en contacto con personas que no podían ver con frecuencia.
Mi pequeño discurso solo tomó unos minutos. Lo que siguió fue el silencio más doloroso de mi carrera profesional. Se sintió como una hora. Finalmente, Mark reveló por qué había pedido reunirse conmigo: Yahoo había hecho esa oferta de mil millones de dólares, y todos le decían que la aceptara.
Solo le tomó unos minutos ayudarlo a descubrir cómo salir del trato. Entonces comenzó una relación de mentoría de tres años. En 2007, Mark me ofreció una opción entre invertir o unirse al tablero de Facebook. Como inversor profesional, elegí el primero. Hablamos a menudo sobre una serie de cuestiones, que culminaron en mi sugerencia de que contratara a Sheryl Sandberg como directora de operaciones, y luego mi ayuda para reclutarla. (Sheryl me presentó a Bono en 2000, unos años más tarde, él y yo formamos Elevation Partners, una firma de capital privado.) Mi función como mentor terminó antes de la OPI de Facebook, cuando los miembros de la junta como Marc Andreessen y Peter Thiel tomaron en ese papel.
En mi carrera de treinta y cinco años en inversiones en tecnología, nunca he hecho una mayor contribución al éxito de una empresa que la que hice en Facebook. Fue mi mayor logro. Admiré enormemente a Mark Zuckerberg y Sheryl Sandberg, a quien ayudé a reclutar a Mark.
En mi carrera de treinta y cinco años en inversiones en tecnología, nunca he hecho una mayor contribución al éxito de una empresa que la que hice en Facebook. Fue mi mayor logro. Admiré a Mark y Sheryl enormemente. No es sorprendente que Facebook se convirtiera en mi aplicación favorita. Lo revisé constantemente, y me convertí en un experto en el uso de la plataforma al comercializar mi banda de rock, Moonalice, a través de una página de Facebook. Como administrador de esa página, aprendí a maximizar el alcance orgánico de mis publicaciones y usar pequeñas cantidades de dólares publicitarios para extender y orientar ese alcance. Requería una capacidad de adaptación porque Facebook seguía cambiando las reglas. Al adaptarnos con éxito a cada cambio, convertimos nuestra página en una de las páginas de fans de mayor participación en la plataforma.
Mi familiaridad con la construcción del compromiso orgánico me puso en posición de notar que algo extraño estaba pasando en febrero de 2016. Las primarias demócratas se estaban iniciando en New Hampshire, y comencé a notar una avalancha de memes anti-Clinton brutalmente misóginos que se originaban en Grupos de Facebook que apoyan a Bernie Sanders. Sabía cómo construir un compromiso orgánico en Facebook. Esto no fue orgánico. Parecía estar bien organizado, con un presupuesto publicitario. Pero seguramente la campaña de Sanders no fue tan estúpida como para empujar a los memes. No sabía lo que estaba pasando, pero me preocupaba que Facebook estuviera siendo usado de una manera que los fundadores no tenían la intención.
Un mes después noté una noticia no relacionada pero igualmente inquietante. Se reveló que una firma de consultoría estaba recogiendo información sobre personas interesadas en el movimiento de protesta Black Lives Matter y vendiéndola a los departamentos de policía. Solo después de que salieron las noticias, Facebook anunció que cortaría el acceso de la compañía a la información. Eso llamó mi atención. Aquí hubo un mal actor que violó los términos de servicio de Facebook, causó mucho daño y luego recibió una bofetada en la muñeca. Facebook no estaba prestando atención hasta después de que el daño estuvo hecho. Me hice una nota para aprender más.
Mientras tanto, la ola de memes anti-Clinton continuó durante la primavera. Todavía no entendía qué lo estaba impulsando, excepto que los memes eran virales en un grado que no parecía ser orgánico. Y, como resultó, algo igualmente extraño estaba sucediendo en el Atlántico.
Cuando los ciudadanos del Reino Unido votaron por abandonar la Unión Europea en junio de 2016, la mayoría de los observadores quedaron atónitos. Las encuestas habían predicho una victoria para la campaña "Permanecer". Y el sentido común hizo difícil creer que los británicos hicieran algo tan obviamente contrario a su propio interés. Pero ni el sentido común ni los datos electorales explicaron por completo un factor crucial: el nuevo poder de las plataformas sociales para amplificar los mensajes negativos.
Facebook, Google y otras plataformas de medios sociales ganan dinero con la publicidad. Al igual que con todas las empresas con publicidad, eso significa que los anunciantes son los verdaderos clientes, mientras que los miembros de la audiencia son el producto. Hasta la década pasada, las plataformas de medios estaban encerradas en un modelo de transmisión para todos los gustos. El éxito con los anunciantes depende de la producción de contenido que atraiga a la mayor audiencia posible. El contenido convincente era esencial, porque las audiencias podían elegir entre una variedad de medios de distribución, ninguno de los cuales podía esperar atraer la atención de ningún consumidor individual por más de unas pocas horas. Los televisores no eran móviles. Las computadoras eran móviles, pero incómodas. Los periódicos y libros eran móviles y no incómodos, sino relativamente cerebrales. Los cines fueron divertidos, pero inconvenientes.
Cuando su negocio se limitaba a computadoras personales, las plataformas de Internet estaban en desventaja. Su contenido patentado no podía competir con los medios tradicionales, y su medio de entrega, la PC, generalmente solo se podía usar en un escritorio. Su única ventaja, una gran cantidad de datos personales, no fue suficiente para superar la desventaja en el contenido. Como resultado, las plataformas web tuvieron que subestimar su publicidad.
Los teléfonos inteligentes cambiaron completamente el juego publicitario. Tomó solo unos pocos años para que miles de millones de personas tuvieran un sistema de entrega de contenido multiusos de fácil acceso, dieciséis horas o más por día. Esto convirtió a los medios en una batalla para mantener la atención de los usuarios el mayor tiempo posible. Y dejó a Facebook y Google con una ventaja prohibitiva sobre los medios tradicionales: con sus enormes depósitos de datos en tiempo real sobre dos mil millones de personas, podían personalizar el contenido visto por cada usuario. Eso hizo que fuera mucho más fácil monopolizar la atención del usuario en los teléfonos inteligentes e hizo que las plataformas fueran atractivas para los anunciantes. ¿Por qué pagar un periódico con la esperanza de captar la atención de una parte determinada de su audiencia, cuando se puede pagar a Facebook para llegar exactamente a esas personas y a nadie más?
Cada vez que ingresa a Facebook, hay millones de publicaciones que la plataforma podría mostrarle. La clave de su modelo de negocio es el uso de algoritmos, impulsados por datos de usuarios individuales, para mostrarle cosas con las que es más probable que reaccione. Wikipedia define un algoritmo como "un conjunto de reglas que define con precisión una secuencia de operaciones". Los algoritmos tienen un valor neutral, pero los algoritmos de las plataformas en realidad están diseñados con un valor específico en mente: la máxima atención, lo que optimiza las ganancias. Hacen esto absorbiendo y analizando sus datos, utilizándolos para predecir qué hará que reaccionen con mayor fuerza, y luego dándoles más de eso.
Los algoritmos que maximizan la atención dan una ventaja a los mensajes negativos. Las personas tienden a reaccionar más a los insumos que aterrizan en el tallo cerebral. El miedo y la ira producen mucho más participación y participación que alegría. El resultado es que los algoritmos favorecen el contenido sensacional sobre la sustancia. Por supuesto, esto siempre ha sido cierto para los medios; de ahí el adagio de las viejas noticias "si sangra, conduce". Pero para los medios de comunicación masivos, esto se vio limitado por el contenido único y por las limitaciones de las plataformas de distribución. No es así para plataformas de internet en teléfonos inteligentes. Han creado miles de millones de canales individuales, cada uno de los cuales puede ser empujado más hacia la negatividad y el extremismo sin el riesgo de alienar a otros miembros de la audiencia. Por el contrario, las plataformas ayudan a las personas a auto segregarse en burbujas de filtros de ideas afines, reduciendo el riesgo de exposición a ideas desafiantes.
Tomó Brexit para mí comenzar a ver el peligro de esta dinámica. No soy un experto en política británica, pero parecía probable que Facebook hubiera tenido un gran impacto en la votación porque el mensaje de una parte era perfecto para los algoritmos y el otro no. La campaña "Deje" hizo una promesa absurda -habría ahorros al dejar la Unión Europea que financiaría una gran mejora en el Sistema Nacional de Salud- al mismo tiempo que explotaba la xenofobia al utilizar Brexit como la mejor manera de proteger la cultura inglesa y el trabajo de los inmigrantes . Era una tontería demasiado buena para ser verdadera mezclada con el miedo a la violencia.
Mientras tanto, la campaña Remain estaba haciendo un llamado a la razón. El mensaje crudo y emocional de Leave habría sido turboalimentado al compartir mucho más que el de Remain. No lo vi en ese momento, pero los usuarios que probablemente respondieran a los mensajes de Leave eran probablemente menos ricos y, por lo tanto, más baratos para el anunciante: el precio de los anuncios de Facebook (y Google) está determinado por subasta, y el costo de Dirigirse a consumidores más sofisticados aumenta la puja por empresas reales que intentan venderles cosas. Como consecuencia, Facebook era una plataforma mucho más barata y efectiva para Leave en términos de costo por usuario alcanzado. Y las burbujas del filtro aseguran que las personas en el lado de la licencia rara vez tienen sus cuestionables creencias cuestionadas. El modelo de Facebook puede haber tenido el poder de remodelar todo un continente.
Pero había un elemento importante en la historia que aún me faltaba.
Poco después de la votación Brexit, contacté a periodistas para validar mis preocupaciones sobre Facebook. En este punto, todo lo que tenía era una sospecha de dos cosas: los malos actores estaban explotando una plataforma desprotegida; y los algoritmos de Facebook pueden haber tenido un impacto decisivo en Brexit al favorecer los mensajes negativos. Mi Rolodex estaba un poco polvoriento, así que envié un correo electrónico a mis amigos Kara Swisher y Walt Mossberg en Recode, el blog de noticias líder de la industria tecnológica. Lamentablemente, no respondieron. Lo intenté de nuevo en agosto, y no pasó nada.
Mientras tanto, la prensa reveló que los rusos estaban detrás del servidor pirateado en el Comité Nacional Demócrata y que el director de campaña de Trump tenía vínculos con oligarcas rusos cercanos a Vladimir Putin. Esta sería la pieza que falta de mi historia. A medida que avanzaba el verano, comencé a notar más y más ejemplos de cosas preocupantes que sucedían en Facebook que podrían haberse evitado si la empresa aceptara la responsabilidad de las acciones de terceros, como las instituciones financieras que usan herramientas de Facebook para discriminar por motivos de raza y religión . A fines de septiembre, Walt Mossberg finalmente respondió mi correo electrónico y me sugirió que escribiera un artículo de opinión describiendo mis preocupaciones. Me concentré completamente en ejemplos no políticos de daños, como la discriminación en anuncios de vivienda, lo que sugiere que Facebook tenía la obligación de garantizar que no se abuse de su plataforma. Como la mayoría de la gente, asumí que Clinton ganaría las elecciones, y no quería que mis preocupaciones fueran descartadas por ser irrelevantes si lo hiciera.
Mi esposa me recomendó que envíe lo que escribí a Mark Zuckerberg y Sheryl Sandberg antes de publicar en Recode. Mark y Sheryl eran mis amigos, y mi objetivo era hacerlos conscientes de los problemas para que pudieran solucionarlos. Ciertamente no estaba tratando de derribar una compañía en la que todavía tengo acciones. Les envié el artículo de opinión el 30 de octubre. Respondieron al día siguiente. La esencia de sus mensajes era la misma: apreciamos que te acerques; creemos que estás malinterpretando las noticias; estamos haciendo grandes cosas que no puedes ver Luego me conectaron con Dan Rose, un veterano ejecutivo de Facebook con quien tuve una excelente relación. Dan es un gran oyente y paciente, pero no estaba dispuesto a aceptar que podría haber un problema sistémico. En cambio, afirmó que Facebook no era una compañía de medios, y por lo tanto no era responsable de las acciones de terceros.
Con la esperanza de que Facebook respondiera a mi buena voluntad con un esfuerzo serio para resolver los problemas, le dije a Dan que no publicaría el artículo de opinión. Luego vino la elección de los EE. UU. Al día siguiente, lo perdí. Le dije a Dan que había un error en el modelo comercial de Facebook. La plataforma estaba siendo explotada por una serie de malos actores, incluidos los partidarios del extremismo, sin embargo, la administración afirmó que la empresa no era responsable. Los usuarios de Facebook, advertí, quizás no siempre estén de acuerdo. La marca corría el riesgo de volverse tóxica. En el transcurso de muchas conversaciones, insté a Dan a proteger la plataforma y sus usuarios.
La última conversación que tuvimos fue a principios de febrero de 2017. Para entonces había una evidencia creciente de que los rusos habían utilizado una variedad de métodos para interferir en nuestra elección. Formé una hipótesis simple: los rusos probablemente orquestaron parte de la manipulación en Facebook que había observado en 2016. Fue entonces cuando comencé a buscar aliados.
El 11 de abril, co-patrociné un programa orientado a la tecnología en Bloomberg TV. Uno de los invitados fue Tristan Harris, anteriormente el especialista en ética del diseño de Google. Tristan acaba de aparecer en 60 Minutes para hablar sobre la amenaza a la salud pública de las redes sociales como Facebook. Experto en tecnología persuasiva, describió las técnicas que utilizan las plataformas tecnológicas para crear adicciones y las formas en que explotan esa adicción para aumentar las ganancias. Lo llamó "pirateo cerebral".
En febrero de 2016, comencé a notar una avalancha de memes anti-Clinton viciosamente misóginos que provenían de grupos de Facebook que apoyaban a Bernie Sanders. Sabía cómo construir un compromiso orgánico en Facebook. Esto no era orgánico.
La herramienta más importante utilizada por Facebook y Google para mantener la atención del usuario es el filtro de burbujas. El uso de algoritmos para dar a los consumidores "lo que quieren" conduce a un flujo interminable de publicaciones que confirman las creencias existentes de cada usuario. En Facebook, es su fuente de noticias, mientras que en Google son sus resultados de búsqueda personalizados individualmente. El resultado es que todos ven una versión diferente de Internet diseñada para crear la ilusión de que todos los demás están de acuerdo con ellos. El refuerzo continuo de las creencias existentes tiende a afianzar esas creencias más profundamente, al tiempo que las hace más extremas y más resistentes a los hechos contrarios. Facebook lleva el concepto un paso más allá con su función de "grupos", que alienta a los usuarios de ideas afines a congregarse en torno a intereses o creencias compartidas. Si bien esto aparentemente proporciona un beneficio para los usuarios, los mayores beneficios se otorgan a los anunciantes, que pueden llegar a las audiencias con mayor eficacia.
Después de hablar con Tristan, me di cuenta de que los problemas que había estado viendo no podían resolverse simplemente, digamos, contratando personal de Facebook para supervisar el contenido del sitio. Los problemas eran inherentes al modelo de negocio basado en la atención y basado en algoritmos. Y lo que sospechaba era que la intromisión de Rusia en 2016 era solo el preludio de lo que veríamos en 2018 y más allá. El nivel del discurso político, ya en la cuneta, iba a empeorar aún más.
Le pregunté a Tristan si necesitaba un hombre de alas. Acordamos trabajar juntos para tratar de desencadenar una conversación nacional sobre el papel de los monopolios de la plataforma de Internet en nuestra sociedad, economía y política. Reconocimos que nuestro esfuerzo probablemente sería quijotesco, pero el hecho de que Tristan había estado en 60 Minutos nos dio esperanza.
Nuestro viaje comenzó con un viaje a la ciudad de Nueva York en mayo, donde hablamos con periodistas y tuvimos una reunión en la ACLU. Tristan encontró un aliado en Arianna Huffington, quien lo presentó a personas como Bill Maher, quien invitó a Tristan a estar en su programa. Un amigo me presentó por correo electrónico a un miembro del personal del Congreso que ofreció organizar una reunión con su jefe, un miembro clave de uno de los comités de inteligencia. Estábamos empezando, pero ya habíamos encontrado una audiencia para el mensaje de Tristan.
En julio, fuimos a Washington, D.C., donde nos reunimos con dos miembros del Congreso. Estaban interesados en el argumento de la salud pública de Tristán, ya que se aplicaba a dos cuestiones: la intromisión electoral de Rusia y el creciente poder de monopolio de las plataformas gigantes. Eso fue una revelación. Si el Congreso se preocupaba por la manipulación y el monopolio de las elecciones, los ayudaríamos a comprender cómo se relacionaban las plataformas de Internet con esos temas. Mi experiencia pasada como ayudante del Congreso, mi larga carrera en inversiones y mi rol personal en Facebook me dieron credibilidad en esas reuniones, complementando la experiencia de dominio de Tristan.
Con respecto a la intromisión electoral, compartimos algunas hipótesis basadas en nuestro conocimiento de cómo funciona Facebook. Empezamos con una pregunta: ¿por qué el Congreso se centró exclusivamente en la colusión entre Rusia y la campaña Trump en 2016? La interferencia rusa, razonamos, probablemente comenzó mucho antes de la campaña de las elecciones presidenciales. Planteamos la hipótesis de que esos primeros esfuerzos probablemente implicaron la ampliación de cuestiones polarizantes, como la inmigración, la supremacía blanca, los derechos de armas y la secesión. (Ya sabíamos que el sitio de secesión de California había sido alojado en Rusia.) Sugerimos que Trump había sido nominado porque él solo entre los republicanos basó su campaña en los tipos de temas que los rusos eligen por su interferencia.
Teorizamos que los rusos habían identificado a un grupo de usuarios susceptibles a su mensaje, usaron las herramientas de publicidad de Facebook para identificar a los usuarios con perfiles similares y usaron anuncios para persuadir a esas personas para que se unieran a grupos dedicados a temas controvertidos. Los algoritmos de Facebook habrían favorecido el crudo mensaje de Trump y las teorías de conspiración anti-Clinton que entusiasmaron a sus seguidores, con la posible consecuencia de que Trump y sus patrocinadores pagaran menos que Clinton por publicidad en Facebook por persona alcanzada. Sin embargo, los anuncios eran menos importantes que lo que vendría después: una vez que los usuarios estaban en grupos, los rusos podrían haber usado cuentas falsas de trol estadounidenses y "bots" computarizados para compartir mensajes incendiarios y organizar eventos. Los trolls y bots que se hacen pasar por estadounidenses habrían creado la ilusión de un mayor apoyo a las ideas radicales de las que realmente existían. Los usuarios reales "me gusta" las publicaciones compartidas por trolls y bots y las comparten en sus propios feeds de noticias, de modo que pequeñas inversiones en publicidad y memes publicados en grupos de Facebook llegarían a decenas de millones de personas. Una estrategia similar prevaleció en otras plataformas, incluido Twitter. Ambas técnicas, bots y trolls, requieren tiempo y dinero para desarrollarse, pero la recompensa hubiera sido enorme.
Nuestra hipótesis final fue que 2016 fue solo el comienzo. Sin una acción inmediata y agresiva de Washington, los malos actores de todo tipo podrían usar Facebook y otras plataformas para manipular al electorado estadounidense en futuras elecciones.
Estas fueron solo hipótesis, pero las personas que conocimos en Washington nos escucharon. Gracias al arduo trabajo de periodistas e investigadores, prácticamente todas estas hipótesis se confirmarán durante las siguientes seis semanas. Casi todos los días trajeron nuevas revelaciones de cómo Facebook, Twitter, Google y otras plataformas habían sido manipuladas por los rusos.
Ahora sabemos, por ejemplo, que los rusos explotaron temas como Black Lives Matter y el nativismo blanco para promover el miedo y la desconfianza, y que esto tenía el beneficio de sentar las bases para el candidato presidencial más divisivo de la historia, Donald Trump. Los rusos parecen haber invertido fuertemente en debilitar la candidatura de Hillary Clinton durante las primarias demócratas promoviendo contenido emocionalmente cargado a los partidarios de Bernie Sanders y Jill Stein, así como también a los posibles partidarios de Clinton que podrían ser desanimados de votar. Una vez que se establecieron las nominaciones, los rusos continuaron socavando a Clinton con las redes sociales dirigidas a probables votantes demócratas. También tenemos evidencia ahora de que Rusia usó sus tácticas de redes sociales para manipular el voto Brexit. Un equipo de investigadores informó en noviembre, por ejemplo, que más de 150,000 cuentas de Twitter en ruso publicaron mensajes pro-Leave en el período previo al referéndum.
La semana antes de nuestra visita de regreso a Washington a mediados de septiembre, nos despertamos con algunas noticias sorprendentes. El grupo que nos había estado ayudando en Washington, el equipo de Open Markets del think tank New America, había estado abogando por una regulación antimonopolio de las plataformas de internet, incluida Google. Resulta que Eric Schmidt, un ejecutivo de Alphabet, la empresa matriz de Google, es un importante donante de New America. El think tank cortó Open Markets. La historia básicamente dice: "Grupo antimonopolio despedido por un grupo de expertos liberal debido a la presión del monopolio". (Nueva América cuestiona esta interpretación, sosteniendo que el grupo fue despedido por falta de colegialidad por parte de su líder, Barry Lynn, que escribe a menudo para esta revista.) El despido fue la mejor evidencia posible de la necesidad de su trabajo, y los financiadores inmediatamente pusieron al equipo de nuevo en el negocio como el Open Markets Institute. Tristan y yo nos unimos a su consejo asesor.
Nuestro segundo viaje a Capitol Hill fue surrealista. Esta vez, tuvimos tres días repletos de reuniones. Todos los que conocimos ya se centraban en nuestros problemas y buscaban orientación sobre cómo proceder. Trajimos con nosotros un nuevo miembro del equipo, Renee DiResta, una experta en cómo las teorías de la conspiración se difunden en Internet. Renee describió cómo los malos actores plantan un rumor en sitios como 4chan y Reddit, apalancan a las personas desencantadas en esos sitios para crear rumores, crean sitios de noticias falsos con versiones de "prensa" del rumor, envían la historia a Twitter para atraer a los medios reales, luego explota la historia para las masas en Facebook. Era una técnica de hacker sofisticada, pero no costosa. Nuestra hipótesis era que los rusos podían manipular a decenas de millones de votantes estadounidenses por una suma inferior a la que se necesitaría para comprar un caza F-35.
En Washington, aprendimos que podíamos ayudar a los legisladores y a los miembros de su personal a comprender el funcionamiento interno de Facebook, Google y Twitter. Necesitaban ponerse al día rápidamente, y nuestro equipo estaba feliz de ayudar.
Tristan y yo habíamos empezado en abril con muy pocas expectativas. A fines de septiembre, una conversación sobre los peligros de los monopolios de la plataforma de Internet estaba en pleno apogeo. Fuimos solo una pequeña parte de lo que hizo que la conversación sucediera, pero se sintió bien.
Facebook y Google son las compañías más poderosas en la economía global. Parte de su atractivo para los accionistas es que sus gigantes negocios publicitarios operan casi sin intervención humana. Los algoritmos pueden ser hermosos en términos matemáticos, pero solo son tan buenos como las personas que los crean. En el caso de Facebook y Google, los algoritmos tienen fallas que son cada vez más obvias y peligrosas.
Gracias al enfoque de laissez faire del gobierno de EE. UU. Sobre la regulación, las plataformas de Internet pudieron aplicar estrategias comerciales que no se habrían permitido en décadas anteriores. Nadie les impidió usar productos gratuitos para centralizar Internet y luego reemplazar sus funciones principales. Nadie les impidió desviar las ganancias de los creadores de contenido. Nadie les impidió recopilar datos sobre cada aspecto de la vida en Internet de cada usuario. Nadie les impidió acumular una cuota de mercado que no se veía desde los días de Standard Oil. Nadie les impidió realizar experimentos sociales y psicológicos masivos en sus usuarios. Nadie exigió que controlen sus plataformas. Ha sido un trato agradable.
Una semana antes de las elecciones de 2016, envié un correo electrónico a Zuckerberg y Sandberg, sugiriendo que Facebook tenía la obligación de garantizar que su plataforma no fuera explotada por los malos actores. Respondieron al día siguiente y dijeron: Te agradecemos por comunicarte, pero piensas que estás malinterpretando las noticias.
Facebook y Google ahora son tan grandes que las herramientas tradicionales de regulación pueden dejar de ser efectivas. La Unión Europea desafió el motor de comparación de precios de compra de Google en terrenos antimonopolio, citando el uso injusto de la búsqueda de Google y los datos de AdWords. El daño fue claro: la mayoría de los competidores europeos de Google en la categoría sufrieron pérdidas paralizantes. El sobreviviente más exitoso perdió el 80 por ciento de su participación en el mercado en un año. La UE ganó un juicio récord de $ 2.7 mil millones, que es atractivo para Google. Los inversores de Google se encogieron de hombros ante la sentencia, y, por lo que puedo ver, la compañía no ha alterado su comportamiento. La multa antimonopolio más grande en la historia de la UE rebotó en Google como un spitball de un acorazado.
Se lee como la trama de una novela de ciencia ficción: una tecnología que se celebra para unir a las personas se explota con un poder hostil para separar a las personas, socavar la democracia y crear miseria. Esto es precisamente lo que sucedió en los Estados Unidos durante las elecciones de 2016. Construimos una moderna línea Maginot, la mitad de los gastos de defensa del mundo y centros financieros cibernéticos, todos construidos para evitar ataques desde el extranjero, sin imaginar que un enemigo pudiera infectar las mentes de nuestros ciudadanos mediante inventos de nuestra propia creación, a un mínimo costo. El ataque no solo fue un éxito abrumador, sino que también fue persistente, ya que el partido político que se benefició se niega a reconocer la realidad. Los ataques continúan todos los días, planteando una amenaza existencial para nuestros procesos democráticos y nuestra independencia.
Todavía no sabemos el grado exacto de colusión entre los rusos y la campaña de Trump. Pero el debate sobre la colusión, aunque importante, corre el riesgo de perderse lo que debería ser un punto obvio: Facebook, Google, Twitter y otras plataformas fueron manipuladas por los rusos para cambiar los resultados en Brexit y las elecciones presidenciales de EE. UU. Ya menos que se realicen cambios importantes, serán manipulados de nuevo. La próxima vez, no se sabe quiénes serán los manipuladores.
La conciencia del papel de Facebook, Google y otros en la interferencia de Rusia en las elecciones de 2016 ha aumentado dramáticamente en los últimos meses, gracias en gran parte a las audiencias del Congreso el 31 de octubre y el 1 de noviembre. Esto ha llevado a pedidos de regulación, comenzando con el introducción de la Ley de Anuncios Honestos, patrocinada por los senadores Mark Warner, Amy Klobuchar y John McCain, que intenta extender la regulación actual de anuncios políticos en redes a plataformas en línea. Facebook y Google respondieron reiterando su oposición a la regulación gubernamental, insistiendo en que mataría a la innovación y perjudicaría la competitividad global del país, y que la autorregulación produciría mejores resultados.
Pero hemos visto a dónde conduce la autorregulación, y no es bonita. Lamentablemente, no hay una bala de plata reglamentaria. El alcance del problema requiere un enfoque múltiple.
Primero, debemos abordar la resistencia a los hechos creados por las burbujas del filtro. Las encuestas sugieren que alrededor de un tercio de los estadounidenses cree que la interferencia rusa es una noticia falsa, a pesar del acuerdo unánime en contrario entre las agencias de inteligencia del país. Ayudar a esas personas a aceptar la verdad es una prioridad. Recomiendo que se pida a Facebook, Google, Twitter y a otros que se pongan en contacto con cada persona afectada por el contenido ruso con un mensaje personal que diga: "Usted y nosotros fuimos manipulados por los rusos". Esto realmente sucedió, y aquí está la evidencia ". El mensaje incluiría todos los mensajes rusos que el usuario recibió.
Esta idea, que se originó con mi colega Tristan Harris, se basa en la experiencia con los cultos. Cuando desee desprogramar a un miembro de culto, es realmente importante que el llamado a la acción provenga de otro miembro del culto, idealmente el líder. Las plataformas afirmarán que esto es demasiado oneroso. Facebook ha indicado que hasta 126 millones de estadounidenses fueron afectados por la manipulación rusa en su plataforma central y otros veinte millones en Instagram, que posee. En conjunto, esos números superan los 137 millones de estadounidenses que votaron en 2016. Lo que Facebook ha ofrecido es un portal enterrado dentro de su Centro de Ayuda donde los usuarios curiosos podrán descubrir si fueron tocados por la manipulación rusa a través de un puñado de grupos de Facebook creados por un granja de trolls única. Esto queda muy lejos de lo necesario para evitar la manipulación en 2018 y más allá. No hay duda de que las plataformas tienen la capacidad tecnológica para llegar a cada persona afectada. Sin importar el costo, las compañías de plataforma deben absorberlo como el precio por su descuido al permitir la manipulación.
En segundo lugar, los directores ejecutivos de Facebook, Google, Twitter y otros (no solo sus abogados) deben declarar ante los comités del Congreso en sesión abierta. Como lo demostró el senador John Kennedy, un republicano de Luisiana, en la audiencia judicial del Senado del 31 de octubre, el abogado general de Facebook en particular no dio respuestas satisfactorias. Esto es importante no solo para el público, sino también para otro sector crucial: los empleados que mantienen funcionando a los gigantes tecnológicos. Si bien muchas de las personas que manejan Silicon Valley son extremadamente libertarias, las personas que trabajan allí tienden a ser idealistas. Quieren creer que lo que están haciendo es bueno. Obligar a los CEOs tecnológicos como Mark Zuckerberg a justificar lo injustificable, en público, sin el escudo de portavoces o RR.PP., sería un gran avance para perforar sus cultos cuidadosamente preservados de personalidad a los ojos de sus empleados.
Estos dos remedios solo serían un primer paso, por supuesto. También necesitamos soluciones regulatorias. Aqui hay algunas ideas.
En primer lugar, es esencial prohibir bots digitales que se hagan pasar por humanos. Distorsionan la "plaza pública" de una manera que nunca fue posible en la historia, sin importar cuántos folletos anónimos haya impreso. Como mínimo, la ley podría requerir el etiquetado explícito de todos los bots, la capacidad de los usuarios para bloquearlos y la responsabilidad de los proveedores de la plataforma por los daños causados por los bots.
En segundo lugar, no se debe permitir que las plataformas hagan adquisiciones hasta que hayan abordado el daño causado hasta la fecha, hayan tomado medidas para evitar daños en el futuro, y hayan demostrado que tales adquisiciones no darán como resultado una competencia disminuida. Un aspecto poco apreciado del crecimiento de las plataformas es su patrón de engullir empresas más pequeñas, en el caso de Facebook, que incluye Instagram y WhatsApp; en Google, incluye YouTube, Google Maps, AdSense y muchos otros, y los usa para extender su poder de monopolio.
Esto es importante, porque Internet ha perdido algo muy valioso. El inicio de Internet fue diseñado para ser descentralizado. Trataba a todos los contenidos y a todos los propietarios de contenido por igual. Esa igualdad tiene valor en la sociedad, ya que mantiene el campo de juego nivelado y anima a los nuevos participantes. Pero la descentralización tuvo un costo: nadie tenía un incentivo para hacer que las herramientas de Internet fueran fáciles de usar. Frustrados por esas herramientas, los usuarios adoptaron alternativas fáciles de usar de Facebook y Google. Esto permitió a las plataformas centralizar Internet, insertándose entre los usuarios y el contenido, imponiendo efectivamente un impuesto a ambas partes. Este es un gran modelo de negocios para Facebook y Google, y conveniente para los clientes a corto plazo, pero nos estamos ahogando en evidencia de que hay costos que la sociedad no puede pagar.
En tercer lugar, las plataformas deben ser transparentes sobre quién está detrás de la comunicación política y basada en problemas. La Ley de anuncios honestos es un buen comienzo, pero no va lo suficientemente lejos por dos razones: la publicidad era una parte relativamente pequeña de la manipulación rusa; y la publicidad basada en problemas jugó un papel mucho más importante que los anuncios orientados a los candidatos. La transparencia con respecto a quienes patrocinan publicidad política de todo tipo es un paso hacia la reconstrucción de la confianza en nuestras instituciones políticas.
En cuarto lugar, las plataformas deben ser más transparentes con respecto a sus algoritmos. Los usuarios merecen saber por qué ven lo que ven en sus feeds de noticias y resultados de búsqueda. Si Facebook y Google tuvieran que ser directos acerca de la razón por la que estás viendo teorías de conspiración, es decir, que es bueno para los negocios, sería mucho menos probable que se apeguen a esa táctica. Permitir que terceros auditen los algoritmos iría aún más lejos para mantener la transparencia. Facebook y Google toman millones de decisiones editoriales cada hora y deben aceptar la responsabilidad de las consecuencias de esas elecciones. Los consumidores también deberían poder ver qué atributos están causando que los anunciantes los orienten.
Facebook, Google y otras plataformas de medios sociales ganan dinero con la publicidad. Al igual que con todas las empresas con publicidad, eso significa que los anunciantes son los verdaderos clientes, mientras que los miembros de la audiencia son el producto.
En quinto lugar, se debería exigir a las plataformas que tengan una relación contractual más equitativa con los usuarios. Facebook, Google y otros han afirmado derechos sin precedentes con respecto a los acuerdos de licencia de usuario final (EULA), los contratos que especifican la relación entre la plataforma y el usuario. Cuando carga un nuevo sistema operativo o una aplicación de PC, se enfrenta a un contrato, el EULA, y al requisito de que acepte sus términos antes de completar la instalación. Si no desea actualizar, puede continuar utilizando la versión anterior durante un tiempo, a menudo años. No ocurre lo mismo con plataformas de Internet como Facebook o Google. Allí, su uso del producto viene con la aceptación implícita del último EULA, que puede cambiar en cualquier momento. Si hay términos que elige no aceptar, su única alternativa es abandonar el uso del producto. Para Facebook, donde los usuarios han contribuido con el 100 por ciento del contenido, esta opción es particularmente problemática.
Se debe exigir a todas las plataformas de software que ofrezcan una opción de exclusión voluntaria, una que permita a los usuarios seguir con la versión anterior si no les gusta el nuevo CLUF. Las plataformas "bifurcaciones" entre versiones antiguas y nuevas tendrían varios beneficios: mayor elección del consumidor, mayor transparencia en el CLUF y más cuidado en la implementación de nuevas funcionalidades, entre otras. Limitaría el riesgo de que las plataformas realicen experimentos sociales masivos en millones o miles de millones de usuarios sin notificación previa adecuada. El mantenimiento de más de una versión de sus servicios sería costoso para Facebook, Google y el resto, pero en software que siempre ha sido uno de los costos del éxito. ¿Por qué debería esta generación obtener un pase?
Los clientes entienden que su uso "gratuito" de plataformas como Facebook y Google da a las plataformas licencia para explotar datos personales. El problema es que las plataformas están usando esa información de maneras que los consumidores no entienden, y podrían no aceptar si lo hicieran.
En sexto lugar, necesitamos un límite en la explotación comercial de los datos de los consumidores por las plataformas de Internet. Los clientes entienden que su uso "gratuito" de plataformas como Facebook y Google da a las plataformas licencia para explotar datos personales. El problema es que las plataformas están usando esa información de maneras que los consumidores no entienden, y podrían no aceptar si lo hicieran. Por ejemplo, Google compró un gran tesoro de datos de tarjetas de crédito a principios de este año. Facebook usa software de reconocimiento de imágenes y etiquetas de terceros para identificar a los usuarios en contextos sin su participación y en donde podrían preferir ser anónimos. Las plataformas no solo usan sus datos en sus propios sitios, sino que también los alquilan a terceros para su uso en Internet. Y usarán esa información para siempre, a menos que alguien les diga que se detengan.
Debe existir una ley de prescripción sobre el uso de los datos de los consumidores por parte de una plataforma y sus clientes. Tal vez ese límite debería ser de noventa días, tal vez un año. Pero en algún momento, los usuarios deben tener el derecho de renegociar los términos de cómo se utilizan sus datos.
Séptimo, los consumidores, no las plataformas, deben poseer sus propios datos. En el caso de Facebook, esto incluye publicaciones, amigos y eventos; en resumen, todo el gráfico social. Los usuarios crearon esta información, por lo que deberían tener derecho a exportarla a otras redes sociales. Dada la inercia y la conveniencia de Facebook, no esperaría que esta reforma desencadenara un vuelo masivo de usuarios. En cambio, el resultado probable sería una explosión de innovación y emprendimiento. Facebook es tan poderoso que la mayoría de los nuevos participantes evitarían la competencia directa a favor de crear una diferenciación sostenible. Las empresas nuevas y los jugadores establecidos crearían nuevos productos que incorporarían los gráficos sociales existentes de las personas, forzando a Facebook a competir nuevamente. Sería análogo a la regulación del negocio de larga distancia del monopolio de AT & T, que condujo a precios más bajos y un mejor servicio para los consumidores.
En octavo lugar, y finalmente, debemos considerar que ha llegado el momento de revivir el enfoque tradicional del país sobre el monopolio. Desde la era Reagan, la ley antimonopolio ha operado bajo el principio de que el monopolio no es un problema, siempre que no genere precios más altos para los consumidores. Bajo ese marco, Facebook y Google han podido dominar varias industrias, no solo las redes sociales y de búsqueda, sino también el correo electrónico, videos, fotos y ventas de anuncios digitales, entre otras, aumentando sus monopolios comprando rivales potenciales como YouTube e Instagram. Si bien es superficialmente atractivo, este enfoque ignora los costos que no aparecen en una etiqueta de precio. La adicción a Facebook, YouTube y otras plataformas tiene un costo. La manipulación electoral tiene un costo. La reducción de la innovación y la contracción de la economía empresarial tiene un costo. Todos estos costos son evidentes hoy. Podemos cuantificarlos lo suficientemente bien como para apreciar que los costos para los consumidores de concentración en Internet son inaceptablemente altos.
El aumento de la conciencia de la amenaza planteada por los monopolios de plataforma crea una oportunidad para replantear la discusión sobre la concentración del poder de mercado. Limitar el poder de Facebook y Google no solo no dañará a los Estados Unidos, sino que casi seguramente dará rienda suelta a los niveles de creatividad e innovación que no se han visto en la industria de la tecnología desde los primeros días de, bueno, Facebook y Google.
Antes de descartar la regulación como imposible en el entorno económico actual, considere esto. Hace ocho meses, cuando Tristan Harris y yo unimos fuerzas, casi nadie hablaba de los problemas que describí anteriormente. Ahora muchas personas están hablando, incluidos los políticos. Teniendo en cuenta todos los demás problemas que enfrenta el país, es difícil ser optimista de que vamos a resolver los problemas en Internet, pero eso no es excusa para la inacción. Hay demasiado en juego.
13:51
Juan MC Larrosa
.png)
