Nos últimos anos, testemunhamos avanços extraordinários com a Inteligência Artificial (IA), moldando profundamente a maneira como interagimos com a tecnologia e o mundo ao nosso redor. Desde assistentes virtuais até diagnósticos médicos mais precisos, a IA tem demonstrado um potencial incrível para transformar indústrias, impulsionar a inovação e desafiar nossa compreensão do que é possível. Foi para compreender melhor o que tudo isso significa, que a Revista Positivo foi conversar com o professor Parahuari Branco sobre o estado atual e as perspectivas futuras da inteligência artificial, juntamente com os desafios éticos e impactos sociais que a acompanham.
Parahuari Branco é apaixonado pela área da Educação. Tem mais de 20 anos de experiência no desenvolvimento de soluções tecnológicas voltadas à aprendizagem. Ao longo desses anos, desempenhou diferentes papéis como professor, programador, autor, designer instrucional, gerente de projetos e pesquisador. Parau, como também é chamado, trabalhou no desenvolvimento de diferentes tipos de soluções educativas como portais, livros didáticos digitais, simulações, sistemas adaptativos e jogos educativos. Atualmente está envolvido na pesquisa e desenvolvimento de soluções que incentivam a leitura e promovem a criatividade digital.
Parahuari Branco é apaixonado pela área da Educação. Tem mais de 20 anos de experiência no desenvolvimento de soluções tecnológicas voltadas à aprendizagem. Ao longo desses anos, desempenhou diferentes papéis como professor, programador, autor, designer instrucional, gerente de projetos e pesquisador. Parau, como também é chamado, trabalhou no desenvolvimento de diferentes tipos de soluções educativas como portais, livros didáticos digitais, simulações, sistemas adaptativos e jogos educativos. Atualmente está envolvido na pesquisa e desenvolvimento de soluções que incentivam a leitura e promovem a criatividade digital.
Revista Positivo (RP) – Afinal de contas, o que é a Inteligência Artificial (IA)?
Parahuari Branco (PB) – Não existe uma definição única de IA. Sua definição pode variar dependendo do contexto e dos objetivos envolvidos. Por exemplo: podemos ter um contexto em que a IA tenha como objetivo criar uma máquina que pense e aja como um ser humano. No entanto, os seres humanos têm viés, o que significa que suas decisões podem ser influenciadas por percepções e crenças pessoais. Sendo assim, em outro contexto, o objetivo pode ser desenvolver uma IA que pense e aja de forma racional, buscando imitar um modelo mais objetivo e livre de viés. Devido a essa multiplicidade de contextos, não existe uma definição única para o que é IA.
Mas não quero deixar a pergunta sem resposta. Para mim, a IA pode ser definida como a busca humana por criar sistemas capazes de perceber, raciocinar, aprender e agir de maneira semelhante à inteligência humana.
RP – Quando se fala em IA, muita gente pensa em futurismos e até em robôs humanoides. Mas quais seriam os exemplos onde já temos IA atuando no cotidiano das pessoas?
PB – A IA já se encontra amplamente presente no cotidiano das pessoas, impulsionando diversas funcionalidades em aplicativos que utilizamos diariamente. Esses sistemas detectam e-mails com spam, realizam o reconhecimento facial, traçam rotas no mapa, sugerem produtos durante compras on-line, respondem à nossa voz e traduzem textos entre várias línguas.
RP – Muitos filmes e livros retratam a IA como uma ameaça. Na sua opinião, quais são os maiores mitos e mal-entendidos sobre a IA?
PB – Existem opiniões divergentes sobre as implicações do avanço da tecnologia de IA. Como mencionado na pergunta, algumas pessoas argumentam que os avanços conquistados na IA nos conduzirão à extinção humana, enquanto outros afirmam que tal cenário é improvável ou está distante de se concretizar. Pessoalmente me inclino à segunda opinião, porém reconheço que esse debate é complexo e exige um diálogo informado e cauteloso sobre o futuro da IA e seu impacto na sociedade.
RP – Há preocupações éticas e de segurança relacionadas à IA. Quais são os principais desafios nesses aspectos e como podemos abordá-los?
PB – Sim, o campo da IA enfrenta muitas preocupações. O viés e a privacidade estão entre os principais desafios. Além disso, questões relacionadas a direitos autorais têm ganhado visibilidade recentemente. É essencial estabelecer marcos legais e regulatórios para abordar essas questões. Por exemplo: é fundamental determinar a responsabilidade em caso de erros ou danos causados por sistemas de IA.
Há um ponto que considero importante abordar aqui: a geração de conteúdos falsos. Esse é um problema multifacetado, envolvendo questões éticas, de segurança, aspectos jurídicos e de privacidade. A evolução das tecnologias de aprendizado profundo, em especial as generativas, trouxe ao mercado poderosas ferramentas de geração de conteúdo, como o ChatGPT, Bard, Dall-E, Midjourney, entre outras. Esses softwares facilitam a geração, revisão e tradução de textos, assim como a criação de imagens, diagramas e vídeos.
O problema é que essas formidáveis ferramentas também possibilitam a geração de conteúdos falsos, como deepfakes e phishing scams. Peço perdão pelo anglicismo, mas deepfakes são imagens ou vídeos alterados, como a substituição do rosto ou modificação do áudio. Já os phishing scams são tentativas de fraude pela internet que utilizam “iscas” ou artifícios para atrair a atenção de uma pessoa e fazê-la realizar alguma ação.
Atualmente, já existem técnicas e ferramentas que buscam identificar esses conteúdos falsos. No entanto, assim que surge uma forma de identificação, novas maneiras de burlar essa detecção também são criadas.
Por isso, para enfrentar estes desafios, não basta somente regulamentações e leis. Acredito que é fundamental que todos compreendam o princípio de funcionamento da IA. Ao entendermos como essa tecnologia funciona, seus pontos fortes e fracos, estaremos preparados para utilizá-la de forma mais eficiente e adaptá-la às nossas necessidades específicas. Além disso, seremos capazes de questionar e discutir diretrizes, políticas, leis e ser cautelosos ao analisar e compartilhar conteúdos recebidos. Esse conhecimento é essencial para garantir o desenvolvimento e uso ético da IA, promovendo seus benefícios e minimizando seus riscos.
RP – A colaboração entre humanos e máquinas é um importante tópico na IA. Quais seriam exemplos de como a ela pode complementar habilidades humanas em vez de substituí-las?
PB – Ferramentas de IA conseguem analisar grandes conjuntos de dados identificando tendências, padrões e estimando a probabilidade de eventos futuros. Essa habilidade da IA pode ser utilizada para auxiliar a nossa tomada de decisão. Pode ser tanto apoiar uma decisão comercial como auxiliar um médico em um diagnóstico. Além disso, barreiras de linguagem podem ser minimizadas por meio do uso de tradutores automáticos baseados em IA. Esta tecnologia também pode ajudar arquitetos, designers e engenheiros na criação de projetos mais eficientes e sustentáveis, otimizando diagramações, formas de dispor itens, fazendo simulações e gerando diferentes ideias para organização dos espaços.
RP – O desenvolvimento da IA tem levantado questões sobre privacidade e segurança de dados. Quais são os riscos associados ao uso inadequado ou malicioso da IA nesse contexto?
PB – O risco está associado à necessidade dos sistemas de IA terem acesso a uma grande quantidade de dados para análise e aprendizado. Existem nestes dados informações pessoais ou sensíveis dos usuários ou das empresas? Será que o local em que estes dados estão armazenados é vulnerável a ataques cibernéticos? O vazamento de um banco de dados compromete a privacidade dos usuários, podendo causar danos significativos.
Outro aspecto importante relacionado à privacidade é o da transparência na coleta destes dados. Quais dados estão sendo coletados? Qual o objetivo desta coleta? Empresas e organizações devem ser absolutamente transparentes sobre a sua política de coleta e uso de dados, obtendo o devido consentimento dos usuários e implementando medidas de segurança para protegê-los.
RP – Como você vê o futuro da IA nos próximos 5 a 10 anos? Quais são as áreas onde devemos acompanhar os maiores avanços?
PB – Para ajudar a responder essa pergunta, vou utilizar uma classificação apresentada por John Launchbury, ex-diretor do Information Innovation Office do Departamento de Defesa dos Estados Unidos (DARPA). No processo evolutivo das tecnologias usadas no desenvolvimento de sistemas de IA, podemos identificar três ‘ondas’ distintas.
A primeira onda é caracterizada pelo desenvolvimento de sistemas de IA ‘baseados em regras’. A segunda onda se destaca pela ampla utilização do ‘aprendizado estatístico’, mais conhecido como ‘aprendizado de máquina’. A terceira onda é chamada de ‘adaptação conceitual’.
Atualmente, considerando o ChatGPT e demais sistemas baseados em IA generativa, estamos terminando de surfar a segunda onda. Os próximos 5 a 10 anos serão dedicados à terceira onda.
Para explicar melhor essa terceira onda, vou usar como exemplo o ChatGPT. A IA desta ferramenta foi treinada usando uma técnica conhecida como ‘aprendizado profundo’. O problema dessa técnica é que, devido à quantidade de dados e parâmetros usados pelo ChatGPT, ele gera um modelo treinado muito complexo. Tão complicado que mesmo os criadores do ChatGPT não sabem exatamente qual o racional usado na geração dos textos.
Então, como podemos confiar em um modelo em que não existe clareza em como ele toma suas decisões? Se voltarmos à definição de IA que apresentei, uma característica é que ela deveria ser ‘semelhante à inteligência humana’. Um ser humano consegue explicar uma decisão ou escolha, mesmo que algumas vezes a resposta possa ser ‘foi por impulso’ ou ‘não sabia, então chutei alguma coisa’.
A evolução da IA depende da resolução deste problema. Um modelo não pode ser ‘opaco’, funcionando como uma caixa misteriosa. É fundamental que ele seja capaz de indicar o ‘racional’ de sua decisão. Será importante acompanharmos nos próximos anos o desenvolvimento de pesquisas que buscam criar metodologias e técnicas que tornem os modelos de IA mais transparentes e capazes de explicar suas decisões de forma compreensível para os usuários.
RP – E o que podemos esperar de impactos da IA na área da educação?
PB – Se considerarmos de forma abrangente, o impacto não será diferente do que em outras áreas, como marketing, comércio, direito, engenharia, pesquisa e demais. Assim como mencionei anteriormente sobre os impactos da IA no mercado de trabalho, o dia a dia dos educadores também envolve atividades repetitivas que podem ser automatizadas ou otimizadas pela IA. O educador que adotar a IA como parceira terá mais tempo para dedicar à aprendizagem de seus alunos.
Sob o ponto de vista dessa análise mais geral, o impacto da IA independe da preferência do educador por uma abordagem pedagógica mais tradicional ou se adota uma estratégia baseada em projetos, aula invertida ou qualquer outra metodologia ativa. O educador encontra na IA uma aliada valiosa em diferentes abordagens pedagógicas. Se a avaliação dos alunos ocorre por meio de provas, a IA pode ajudar no processo de criação dessas provas e facilitar o processo de correção. Em estratégias baseadas em projetos, a IA pode ser utilizada desde a escolha do tema até a preparação de materiais de apoio aos estudantes. Na aula invertida, a IA também pode auxiliar o educador na preparação de materiais, como textos, vídeos, ilustrações e diagramas, que orientarão os estudantes antes da aula.
Tem outro ponto importante a ressaltar: a IA é apenas mais uma peça no quebra-cabeça das transformações da sociedade. A temática da IA que estamos discutindo aqui deve reforçar a importância do educador na formação de cidadãos preparados para navegar essas transformações. Em nossa conversa, abordamos questões como privacidade, segurança digital, requalificação, conteúdos falsos, viés e falta de transparência nos sistemas de IA. Os desafios de hoje serão os mesmos do futuro? Neste cenário , é essencial que os educadores cultivem uma visão crítica e questionadora, preparando nossos estudantes para navegarem com confiança no futuro.
