Vivemos em uma sociedade que almeja a transparência, como se fosse um elixir para relações mais saudáveis e serviços mais eficientes. Agora, com o advento da inteligência artificial, esperamos o mesmo dela, para entendermos como essas plataformas funcionam e de onde vêm suas decisões, que nos impactam cada vez mais.
Precisamos colocar esses desejos em perspectiva: a transparência é bem-vinda para sistemas digitais. Para pessoas, por outro lado, muita transparência pode trazer transtornos e até criar mecanismos de dominação.
Uma sociedade totalmente transparente seria esquizofrênica! Na vida, escolhemos o que compartilhamos, e não há nada de maquiavélico nisso. Informação é poder e isso nunca foi tão verdadeiro! Por isso, ajustamos nossa transparência como estratégia de sobrevivência e para nos destacarmos.
Mas nesses tempos de redes sociais onipresentes, alguns grupos propagam a ideia de que devemos ser mais transparentes, como se isso fosse o caminho para uma "sociedade mais livre".
Devemos ter cuidado com essa proposta! A começar porque normalmente quem a faz tem uma vida bastante reservada, para não dizer obscura.
- Assine gratuitamente minha newsletter sobre experiência do cliente, mídia cultura e transformação digital
- Inscreva-se no meu podcast (escolha a plataforma): Spotify, Deezer, Apple Podcasts, Google Podcasts ou Soundcloud
Impossível não pensar nos manda-chuvas das redes sociais, que querem um mundo que passe pelos seus algoritmos, que tudo veem e medem, para nos conhecer e nos manipular. Ironicamente esses moguls da tecnologia fazem uso restrito dos próprios sistemas. Se alguém tiver alguma dúvida disso, recomendo assistir ao documentário "O Dilema das Redes" (2020), da Netflix.
Isso lembra também o filme "O Círculo" (2017), estrelado por Emma Watson e Tom Hanks. Na trama, a empresa chamada "O Círculo", mistura de Google, Meta e X, possui o objetivo de tornar o mundo transparente. Para isso, cria produtos como a uber-rede social TrueYou e o SeeChange, que integra milhões de microcâmeras que podem ser colocadas em qualquer lugar, para monitorar e transmitir a vida do usuário continuamente para o mundo.
A funcionária Mae Holland (Emma Watson) se deixa seduzir pela ideia revolucionária, tornando-se "a primeira pessoa totalmente transparente". Mas ela logo percebe que as perdas pelo fim da sua privacidade superam largamente os eventuais benefícios. Assim propõe que o CEO da empresa, Eamon Bailey (Tom Hanks), uma espécie de Elon Musk da ficção, também se torne "transparente", o que ele recusa frontalmente, tentando neutralizá-la.
Esse "faça o que eu mando, mas não faça o que eu faço" não é exclusivo de lideranças da tecnologia: os políticos sempre se valeram desse recurso. E as redes sociais se demonstraram perfeitas para eles. Afinal, possuem a capacidade de convencer eficazmente grandes massas, recursos para se rastrear ações e ideias, e a possibilidade de se manipular a imagem do líder, para que ele convincentemente pareça ser o que não é.
Outra obra que explora o tema com maestria é "1984", lançada por George Orwell em 1949. Na história, o governo tirânico do Big Brother domina as pessoas, espionando o que fazem por câmeras e doutrinando-as pela mídia. Apesar de o alto escalão do partido saber tudo sobre os cidadãos, eles não sabem nada dos governantes, nem mesmo se o Grande Irmão existe de fato.
Quem sabe muito do outro o controla! Portanto, precisamos buscar relações sociais equilibradas. O que nos leva de volta à tecnologia: a inteligência artificial pode nos manipular muito além das redes sociais, pois influencia crescentemente nossas mais diversas decisões.
Hoje não temos a menor ideia de onde ela tira suas conclusões. Tampouco há registros desse processo para que seja auditado. Por isso, crescem os pedidos de rastreabilidade, transparência e explicabilidade dessas plataformas.
É importante que fique claro que isso não visa coibir o desenvolvimento da IA. Pelo contrário, esses valores permitem que a usemos mais e melhor.
Para isso, temos que confiar na IA, mas ninguém confia naquilo que é opaco. Já passou da hora de construirmos relações mais equilibradas também com as plataformas digitais.
Vídeo relacionado:
