Em “O novo nós”, o estrategista em inovação e especialista em IA André Magno argumenta que humanos e agentes artificiais se transformam mutuamente, e que a responsabilidade pelas decisões continuará sendo humana
O livro “O novo nós. A coevolução entre humanos e agentes artificiais”, de André Magno, é resultado de uma pesquisa multidisciplinar e apoia seu argumento central na arqueologia cognitiva, na filosofia da mente e na neurociência social. Humanos e a técnica estão em coevolução desde a pré-história, num processo em que a técnica molda o ser humano na mesma medida em que é moldada por ele. “A obra surgiu da dificuldade que temos de imaginar o que acontecerá com o nosso ‘nós’ quando passarmos a integrar coletivos híbridos, onde humanos e agentes artificiais, inteligentes e autônomos, conviverão intensamente”, diz o estrategista em inovação.
O que diferencia o homem da máquina
“Se a técnica sempre participou da constituição do humano, o que realmente nos diferencia das máquinas?”, pergunta Magno. Essa é a questão que o livro busca responder na sequência. Segundo ele, a IA já consegue participar ativamente das dinâmicas humanas, mas o sentido que orienta sua decisão continua sendo definido pelos seres humanos. “Não podemos confundir a função da autonomia operacional com agência moral, nem acreditar que uma coisa elimina a outra. Enquanto a autonomia operacional se limita à capacidade técnica de a IA executar tarefas e aprender de forma independente no ambiente, a agência moral exige consciência, intencionalidade e a responsabilidade ética pelas consequências dessas ações”, diz.
De acordo com o especialista em IA, essa agência moral continuará cabendo ao ser humano no meio desse Novo Nós, que pressupõe uma tecnologia “que não apenas nos transforma, mas que também nos olha de volta, nos responde e nos desafia”. O autor propõe entender aquilo que possibilitou a existência do próprio “nós” humano, para compreender qual o teor dessa responsabilidade. Segundo ele, o fundamento do “nós” está na capacidade de repartir objetivos, significados e formas de coordenação social, também chamada de intencionalidade compartilhada. No processo evolutivo humano, essa capacidade foi o que nos distanciou dos demais primatas. A partir dela, desenvolvemos a linguagem, o domínio do fogo, a escrita e a indústria, e ela pressupõe a intencionalidade individual e a habilidade de cada pessoa de se conectar com os demais membros do grupo.
Segundo o estrategista em inovação, nós, seres humanos, temos a capacidade de extrair significado de nossas ações e compartilhar objetivos, agindo de maneira coletiva. A IA, por sua vez, ainda não é capaz disso. Para esses fins, a inteligência não basta. “A capacidade de processar informações, reconhecer padrões e executar tarefas complexas representa um avanço extraordinário, mas não é suficiente. Não para produzir sentido ou definir direções”, enfatiza. O especialista acredita ser lícito afirmar que a IA pode colaborar em processos coletivos nessas novas formas de ação envolvendo humanos e agentes artificiais. Mas a responsabilidade por esses processos continuará sendo dos seres humanos.
A fim de explicar por que essa responsabilidade permanecerá sendo do ser humano, Magno estabelece uma diferença entre inteligência e consciência. Ele define a verdadeira consciência como experiência subjetiva, o sentir intrínseco. “Isso é algo que as máquinas, ao menos as que conhecemos, não possuem”, afirma. Somos nós, seres com verdadeira consciência, que devemos reger a relação com os agentes artificiais. Dentro desse “nós”, o autor inclui os construtores dos agentes, os treinadores, os monitoradores, os financiadores, os usuários e governos.
Magno defende que a inteligência artificial se tornou o novo membro desse grupo, e que cabe a nós incluí-la nesse “novo nós”. Cada parte exerce um papel distinto, os algoritmos com sua capacidade de processar dados e reconhecer padrões em escala, os humanos com sua capacidade de atribuir sentido e responder por suas decisões.
Como garantir que a IA opere dentro do limite ético
O livro procura responder qual a melhor forma de estruturar a convivência entre humanos e agentes artificiais, já que o “Novo Nós” começa a emergir na prática. O autor faz isso sugerindo um blueprint que garanta que as máquinas, autorizadas a operar em nome dos humanos, ajam dentro de limites éticos aceitáveis. O modelo se traduz em cinco princípios práticos. São eles particionamento de autoridade, para definir quem decide; cultura de fluência, para estabelecer como humano e máquina vão trabalhar juntos; rastreabilidade e explicabilidade, para saber o que aconteceu no processo; segurança sociotécnica por design, para evitar danos; e governança do ciclo de vida, para garantir o alinhamento do sistema ao longo do tempo.
Por fim, Magno reitera seu incômodo com narrativas apocalípticas sobre a emergência da IA, que sentenciam a substituição do homem pela máquina. “A meu ver, existe uma diferença importante entre ter cautela e ser fatalista. Entre ser responsável e ficar paralisado. Entre ter pensamento crítico e cultuar o medo”, diz. O autor não ignora a seriedade de alguns debates, como o da substituição de empregos pela máquina, mas destaca que a resposta para essas indagações continuará vindo das pessoas. Essa responsabilidade não deve ser retirada do centro do debate tecnológico, como se estivéssemos diante de forças inevitáveis e autônomas, as quais só nos restaria assistir. O processo de continuidade evolutiva está apenas inaugurando uma nova etapa.