Lensa, app de criação de fotos por IA, é divertido, mas traz conflitos éticos


É possível se defender de ter sua imagem criada artificialmente por terceiros numa cena que lhe cause repulsa?

Por Pedro Doria
Atualização:

Nos últimos dias de novembro, a startup Stability AI pôs na rua a versão 2.0 de seu popular algoritmo de inteligência artificial. A empresa, neste momento, é a principal coqueluche do Vale do Silício. Um investimento que recebeu faz poucos meses a catapultou para o valor de US$ 1,5 bilhão de dólares.

Talvez mesmo sem conhecer seu nome, quem passeia pelas redes fatalmente já se deparou com o produto único da Stability. São imagens de rostos, às vezes como pinturas, como fotografias num ambiente de ficção científica, cenas num mundo de fantasia — a última moda da web. Envie para um app fotografias de seu rosto e receba em troca dezenas de versões do seu retrato. Todas criadas pelo computador.

continua após a publicidade

Esse ramo da tecnologia atende pelo nome de inteligência artificial generativa. É um tipo de algoritmo que gera conteúdo inédito. Ele pode ser treinado com bilhões de imagens e cria a partir do que analisou. Ou pode ser alimentado com textos, com vídeos, com o que for. Estamos em um ponto da tecnologia no qual os produtos desses algoritmos, principalmente em imagem estática, estão próximos de substituir ilustradores contratados.

Aplicativo 'Lensa' cria avatares por meio de IA. Foto: Reprodução/Redes Sociais

O que faz a Stability AI única é a maneira como encara o setor. Seu algoritmo, o Stable Diffusion, foi publicado em código aberto. Outras tantas empresas constroem tecnologias igualmente sofisticadas. Mas são fechadas. O Stable Diffusion, não. Qualquer um que entenda do ramo pega o código, aplica como bem entender e pode inclusive construir versões modificadas.

continua após a publicidade

A primeira versão de Stable Diffusion já era muito impressionante. A partir dela, brotaram na internet inúmeras cenas pornográficas com mulheres e homens famosos. Brotaram também pequenos plugins que ensinam o algoritmo a desenhar no estilo de ilustradores populares de estúdios de animação, de capas de livros e do universo da fantasia.

Tecnologia seguirá nos desafiando e precisamos de filósofos como nunca

São exemplos de uso que geram incômodo, desconforto e mesmo questões éticas. Com os algoritmos fechados de empresas, nada disso é possível. Mas, com um aberto, o limite é a imaginação. Se a produção de uma imagem começa a dispensar a pessoa que ilustra, são empregos que desaparecem. Já está acontecendo.

continua após a publicidade

A questão da privacidade não é menor. É possível se defender de ter sua imagem criada artificialmente numa cena que lhe cause repulsa? É bastante provável que a resposta seja não.

A tecnologia existe, ela funciona, é gratuita — e será usada.

A versão nova de Stable Diffusion bloqueou a possibilidade de imagens com nudez ou sexualidade e dificultou a simulação de estilos artísticos. Mas, como o código é aberto, quem tem a manha pode retirar os bloqueios. Já há uma corrida em curso.

continua após a publicidade

Os dilemas não vão diminuir. Tecnologia seguirá nos desafiando e precisamos de filósofos como nunca. Até lá, vejam bem, essa coisa de criar retratos de si mesmo, noves fora o narcisismo, é divertida como só.

Nos últimos dias de novembro, a startup Stability AI pôs na rua a versão 2.0 de seu popular algoritmo de inteligência artificial. A empresa, neste momento, é a principal coqueluche do Vale do Silício. Um investimento que recebeu faz poucos meses a catapultou para o valor de US$ 1,5 bilhão de dólares.

Talvez mesmo sem conhecer seu nome, quem passeia pelas redes fatalmente já se deparou com o produto único da Stability. São imagens de rostos, às vezes como pinturas, como fotografias num ambiente de ficção científica, cenas num mundo de fantasia — a última moda da web. Envie para um app fotografias de seu rosto e receba em troca dezenas de versões do seu retrato. Todas criadas pelo computador.

Esse ramo da tecnologia atende pelo nome de inteligência artificial generativa. É um tipo de algoritmo que gera conteúdo inédito. Ele pode ser treinado com bilhões de imagens e cria a partir do que analisou. Ou pode ser alimentado com textos, com vídeos, com o que for. Estamos em um ponto da tecnologia no qual os produtos desses algoritmos, principalmente em imagem estática, estão próximos de substituir ilustradores contratados.

Aplicativo 'Lensa' cria avatares por meio de IA. Foto: Reprodução/Redes Sociais

O que faz a Stability AI única é a maneira como encara o setor. Seu algoritmo, o Stable Diffusion, foi publicado em código aberto. Outras tantas empresas constroem tecnologias igualmente sofisticadas. Mas são fechadas. O Stable Diffusion, não. Qualquer um que entenda do ramo pega o código, aplica como bem entender e pode inclusive construir versões modificadas.

A primeira versão de Stable Diffusion já era muito impressionante. A partir dela, brotaram na internet inúmeras cenas pornográficas com mulheres e homens famosos. Brotaram também pequenos plugins que ensinam o algoritmo a desenhar no estilo de ilustradores populares de estúdios de animação, de capas de livros e do universo da fantasia.

Tecnologia seguirá nos desafiando e precisamos de filósofos como nunca

São exemplos de uso que geram incômodo, desconforto e mesmo questões éticas. Com os algoritmos fechados de empresas, nada disso é possível. Mas, com um aberto, o limite é a imaginação. Se a produção de uma imagem começa a dispensar a pessoa que ilustra, são empregos que desaparecem. Já está acontecendo.

A questão da privacidade não é menor. É possível se defender de ter sua imagem criada artificialmente numa cena que lhe cause repulsa? É bastante provável que a resposta seja não.

A tecnologia existe, ela funciona, é gratuita — e será usada.

A versão nova de Stable Diffusion bloqueou a possibilidade de imagens com nudez ou sexualidade e dificultou a simulação de estilos artísticos. Mas, como o código é aberto, quem tem a manha pode retirar os bloqueios. Já há uma corrida em curso.

Os dilemas não vão diminuir. Tecnologia seguirá nos desafiando e precisamos de filósofos como nunca. Até lá, vejam bem, essa coisa de criar retratos de si mesmo, noves fora o narcisismo, é divertida como só.

Nos últimos dias de novembro, a startup Stability AI pôs na rua a versão 2.0 de seu popular algoritmo de inteligência artificial. A empresa, neste momento, é a principal coqueluche do Vale do Silício. Um investimento que recebeu faz poucos meses a catapultou para o valor de US$ 1,5 bilhão de dólares.

Talvez mesmo sem conhecer seu nome, quem passeia pelas redes fatalmente já se deparou com o produto único da Stability. São imagens de rostos, às vezes como pinturas, como fotografias num ambiente de ficção científica, cenas num mundo de fantasia — a última moda da web. Envie para um app fotografias de seu rosto e receba em troca dezenas de versões do seu retrato. Todas criadas pelo computador.

Esse ramo da tecnologia atende pelo nome de inteligência artificial generativa. É um tipo de algoritmo que gera conteúdo inédito. Ele pode ser treinado com bilhões de imagens e cria a partir do que analisou. Ou pode ser alimentado com textos, com vídeos, com o que for. Estamos em um ponto da tecnologia no qual os produtos desses algoritmos, principalmente em imagem estática, estão próximos de substituir ilustradores contratados.

Aplicativo 'Lensa' cria avatares por meio de IA. Foto: Reprodução/Redes Sociais

O que faz a Stability AI única é a maneira como encara o setor. Seu algoritmo, o Stable Diffusion, foi publicado em código aberto. Outras tantas empresas constroem tecnologias igualmente sofisticadas. Mas são fechadas. O Stable Diffusion, não. Qualquer um que entenda do ramo pega o código, aplica como bem entender e pode inclusive construir versões modificadas.

A primeira versão de Stable Diffusion já era muito impressionante. A partir dela, brotaram na internet inúmeras cenas pornográficas com mulheres e homens famosos. Brotaram também pequenos plugins que ensinam o algoritmo a desenhar no estilo de ilustradores populares de estúdios de animação, de capas de livros e do universo da fantasia.

Tecnologia seguirá nos desafiando e precisamos de filósofos como nunca

São exemplos de uso que geram incômodo, desconforto e mesmo questões éticas. Com os algoritmos fechados de empresas, nada disso é possível. Mas, com um aberto, o limite é a imaginação. Se a produção de uma imagem começa a dispensar a pessoa que ilustra, são empregos que desaparecem. Já está acontecendo.

A questão da privacidade não é menor. É possível se defender de ter sua imagem criada artificialmente numa cena que lhe cause repulsa? É bastante provável que a resposta seja não.

A tecnologia existe, ela funciona, é gratuita — e será usada.

A versão nova de Stable Diffusion bloqueou a possibilidade de imagens com nudez ou sexualidade e dificultou a simulação de estilos artísticos. Mas, como o código é aberto, quem tem a manha pode retirar os bloqueios. Já há uma corrida em curso.

Os dilemas não vão diminuir. Tecnologia seguirá nos desafiando e precisamos de filósofos como nunca. Até lá, vejam bem, essa coisa de criar retratos de si mesmo, noves fora o narcisismo, é divertida como só.

Nos últimos dias de novembro, a startup Stability AI pôs na rua a versão 2.0 de seu popular algoritmo de inteligência artificial. A empresa, neste momento, é a principal coqueluche do Vale do Silício. Um investimento que recebeu faz poucos meses a catapultou para o valor de US$ 1,5 bilhão de dólares.

Talvez mesmo sem conhecer seu nome, quem passeia pelas redes fatalmente já se deparou com o produto único da Stability. São imagens de rostos, às vezes como pinturas, como fotografias num ambiente de ficção científica, cenas num mundo de fantasia — a última moda da web. Envie para um app fotografias de seu rosto e receba em troca dezenas de versões do seu retrato. Todas criadas pelo computador.

Esse ramo da tecnologia atende pelo nome de inteligência artificial generativa. É um tipo de algoritmo que gera conteúdo inédito. Ele pode ser treinado com bilhões de imagens e cria a partir do que analisou. Ou pode ser alimentado com textos, com vídeos, com o que for. Estamos em um ponto da tecnologia no qual os produtos desses algoritmos, principalmente em imagem estática, estão próximos de substituir ilustradores contratados.

Aplicativo 'Lensa' cria avatares por meio de IA. Foto: Reprodução/Redes Sociais

O que faz a Stability AI única é a maneira como encara o setor. Seu algoritmo, o Stable Diffusion, foi publicado em código aberto. Outras tantas empresas constroem tecnologias igualmente sofisticadas. Mas são fechadas. O Stable Diffusion, não. Qualquer um que entenda do ramo pega o código, aplica como bem entender e pode inclusive construir versões modificadas.

A primeira versão de Stable Diffusion já era muito impressionante. A partir dela, brotaram na internet inúmeras cenas pornográficas com mulheres e homens famosos. Brotaram também pequenos plugins que ensinam o algoritmo a desenhar no estilo de ilustradores populares de estúdios de animação, de capas de livros e do universo da fantasia.

Tecnologia seguirá nos desafiando e precisamos de filósofos como nunca

São exemplos de uso que geram incômodo, desconforto e mesmo questões éticas. Com os algoritmos fechados de empresas, nada disso é possível. Mas, com um aberto, o limite é a imaginação. Se a produção de uma imagem começa a dispensar a pessoa que ilustra, são empregos que desaparecem. Já está acontecendo.

A questão da privacidade não é menor. É possível se defender de ter sua imagem criada artificialmente numa cena que lhe cause repulsa? É bastante provável que a resposta seja não.

A tecnologia existe, ela funciona, é gratuita — e será usada.

A versão nova de Stable Diffusion bloqueou a possibilidade de imagens com nudez ou sexualidade e dificultou a simulação de estilos artísticos. Mas, como o código é aberto, quem tem a manha pode retirar os bloqueios. Já há uma corrida em curso.

Os dilemas não vão diminuir. Tecnologia seguirá nos desafiando e precisamos de filósofos como nunca. Até lá, vejam bem, essa coisa de criar retratos de si mesmo, noves fora o narcisismo, é divertida como só.

Atualizamos nossa política de cookies

Ao utilizar nossos serviços, você aceita a política de monitoramento de cookies.