Chatbots

The Most Human Human

Publicado por José Paulo de Araújo em 04/06/2011

Entrevista com Brian Christian, autor do livro The Most Human Human, participante de uma das edições do Loebner Prize:

Tamagotchis & Antropomorfização

Publicado por José Paulo de Araújo em 22/03/2011

Trecho de um ensaio em que estou trabalhando no qual abordo um fenômeno que explica a sobrecarga afetiva a que me referi no post anterior:

"Na linha evolutiva traçada [...] desde ELIZA, o programa ainda primitivo que simulava um diálogo; a Watson, o supercomputador que é capaz de se comunicar em linguagem natural, ainda não existe lugar para uma inteligência de fato comparável à humana. Não obstante a capacidade de fazer cálculos com extrema agilidade, o computador mais avançado ainda não possui uma pacidade essencial para a inteligência como a conhecemos – a de experimentar emoções, as quais são parte integrante de processos cognitivos como a tomada de decisão e mesmo a criatividade.

Embora sejam incapazes de compreender e expressar emoções autênticas, os computadores podem, involuntariamente, provocar emoções em seus usuários. Estudos na área da Interação Homem-Computador (Human Computer Interaction ou HCI) demonstram que essas máquinas costumam receber de seus usuários humanos um tratamento normalmente dispensado apenas a entidades vivas. Para explicar esse fenômeno, os pesquisadores Byron Reeves e Clifford Nass propuseram a Hipótese da Equação das Mídias, segundo a qual os seres humanos reagiriam de forma espontânea a

pistas sociais que simulassem o comportamento humano, ainda que fossem produzidas por seres inanimados. Como decorrência dessa reação espontânea, as pessoas empregariam na interação com computadores as mesmas regras sociais típicas de relacionamentos humanos. Esses estudos encontram paralelo no trabalho das psicólogas Linnda Caporael e Cecilia Heyes sobre a antropomorfização, fenômeno bastante estudado na área de HCI que se caracteriza pela “atribuição de características humanas – especificamente estados mentais – a entidades não-humanas”. Embora o entendimento de sua origem ainda seja controverso, existe uma tendência a considerá-lo como resultante de um processo cognitivo espontâneo, não-consciente e não derivado de aprendizagem, como exemplifica a cientista do MIT Sherry Turkle: 

De Angeli e seus colegas afirmam que os computadores sempre foram um alvo perfeito para a antropomorfização, pois são máquinas complexas cujo mecanismo de funcionamento não é aparente para seus usuários e porque desempenham funções que, por muito tempo, foram exclusivas de seres humanos, tais como o processamento de informações e a solução de problemas. Quando são programados para simular a comunicação em linguagem natural, como no caso dos chatterbots, os computadores parecem se tornar fonte quase inevitável do fenômeno, como sugerem os relatos de Weizenbaum e Esptein já citados.

Recentemente têm sido observados casos em que a antropomorfização é induzida como resultado de tentativas de tornar os computadores verdadeiros agentes relacionais, “artefatos projetados para construir relacionamentos socioemocionais de longo-prazo com seus usuários”. Nas palavras  de Sherry Turkle e seus colegas, esses agentes são “objetos que se apresentam como possuidores de ‘estados mentais’ que são afetados por suas interações com os seres humanos”. Por essa razão, muitos deles “dão a impressão de querer receber atenção, de ter suas ‘necessidades’ atendidas e de ficar satisfeitos quando são devidamente cuidados”. Os Tamagotchis e o cão-robô AIBO são exemplos bastante representativos de agentes relacionais que chegaram ao mercado com bastante sucesso. O AIBO foi descontinuado em 2006, já na terceira geração, mas os Tamagotchis originaram uma verdadeira linhagem de bichos de estimação virtuais conhecidos como cyber pets."

Sherry Turkle dedica uma seção inteira de seu último livro aos Tamagotchis, reconhecidos como agentes relacionais simples, mas poderosos nas reações afetivas que eram capazes de despertar em seus usuários. Em homenagem a eles, eis um vídeo que demonstra de forma bem explícita o quão rica foi essa "espécie" de criatura digital:

On Tamagotchis and affective overload

Publicado por José Paulo de Araújo em 20/03/2011

Hoje enviei uma mensagem à Profª Sherry Turkle a respeito de um fenômeno que observei recentemente e que parece ter muito a ver com  que ela discute em seu livro mais recente Alone Together. O texto da mensagem segue abaixo na íntegra.

On Mar 20, 2011, at 11:14 AM, José Paulo de Araújo wrote:

Dear professor Turkle,

My name is Jose Paulo de Araujo. I am a doctorate student pursuing a degree in Applied Linguistics from the Federal University of Rio de Janeiro / Brazil. My research focuses on the educational affordances of AIML-programmed chatbots. So far I have done extensive bibliographical searching and reading and came to the (obvious) conclusion that these artifacts are not suitable to replace human tutors. AIML is too limited as far as AI is concerned. These agents are, however, able to induce affective states that, if properly managed, may turn these chatbots into good academic agents. But it is too ealy for me to say how good they can be.

Since my research has led me into the affective domain, it was just a matter of time till I found your studies with Cog, Kismet and Paro. And I was fascinated at your findings for they warned me against the dangers of relying on anthropomorphization. The purpose of this message, however, is not to introduce myself or to tell you of the importantance of your research, but to share a recent experience I had which may be of interest.

A couple of weeks ago, as I was still reading some of your articles, I came upon a short text (Tamagoshi) published in a weekly Brazilian magazine. The author, a famous actress-turned-writer called Fernanda Torres, shared with her readers some of her family’s predicament with a Tamagotchi. I was fascinated by her description of her six-year-old son’s reaction to the toy’s first death, which I translate and quote from the source text (found at http://bit.ly/gFssX6):

At about 5 pm when he arrived home, my son decided to feed the creature and noted the tragedy: tamagoshi was no longer among us. A mournful song came from the gadget’s speaker. The display showed that the entity had grown tiny wings and flew skywards with two crosses where its eyes has been. In shock, my boy's face paled. You could see fear in his guilt-ridden eyes. "He died? ", he asked, his voice cracking. I did not have time to respond; tears rolled down his chubby cheeks, his head dropped and he was speechless.

Torres then tells us that, after they figured out how to reboot the system, the whole family had to make a (useless) commitment to keeping the digital pet alive, till they eventually gave up on it altogether.

This short but telling story opened my eyes to issues that even simple relational artifacts such as a Tamagotchi may raise. An affectively immature child such as the author’s son (or, for different reasons, an aging person) should not be led into a relationship with such pressing demands for constant caring and such drastic consequences (i.e death) resulting from negligence. It was clear to me as I read the story that what happened to that child was a strong affective response to an excessive affective demand on the part of an artifact that could not really have felt hunger, fear or abandonment.

This whole process bears some resemblance to the phenomenon called cognitive overload, but since it seems to develop in the affective domain I would risk dubbing it affective overload. Although I believe that children (provided they live in a supportive and caring environment) will naturally overcome affective stress caused by something as simple as a Tamagotchi, I am not so confident on their resourcefulness when it comes to relating to more sophisticated relational artifacts. And it looks as though the tech industry is willing to dump even more affectively demanding creatures in the market.

One more thing: Amazon has just delivered Alone Together and I can hardly wait to start reading it.

Thank you for your attention.

Best regards,
Jose Paulo
www.lingnet.pro.br