RSS
 

Arquivo para a ‘IA’ Categoria

A narrativa eletrônica

02 mar

A rápida evolução da Inteligência Artificial, depois de uma séria crise até o final do milênio, trás no cenário da divulgação científica e às vezes até mesmo na própria investigação científica, tanto um aspecto mistificador que a vê além das possibilidades reais ou aquém do que é capaz.

Por isso apontamos no post anterior a evolução real e sofisticação dos algoritmos de Machine Learning e o crescimento da tecnologia de Deep Learning, esta é a evolução rápida atual, a evolução dos assistentes eletrônicos (já estão no mercado vários deles como o Siri e a Alexa) é ainda limitada e comentamos num post sobre a máquina LaMBDA que teria capacidade “senciente”.

Senciente é diferente de consciência, porque é a capacidade dos seres de perceberem sensações e sentimentos através dos sentidos, isto significaria no caso das máquinas terem algo “subjetivo” (já falamos da limitação do termo e sua diferença da alma), embora elas sejam capazes de narrativas.

Esta narrativa or mais complexa que seja é uma narrativa eletrônica, um algorítmica, com a interação de homem e máquina através de um “deep learning” é possível que ela confunda e até mesmo surpreenda o ser humano com narrativas e elaborações de falas, porem dependerá sempre das narrativas humanas das quais são alimentadas e criam uma narrativa eletrônica.

Cito um exemplo do chatGPT que empolga o discurso mistificador e cria um alarme no discurso tecnófobo e cria especulações até mesmo sobre os limites transumanos da máquina.

Uma lista de filmes considerados extraordinários, exemplifica o limite da narrativa eletrônica, devido a sua alimentação humana, a lista dava os seguintes filmes: “Cidadão Kane” (1941), “O Poderoso Chefão” (1972), “De Volta para o Futuro” (1985), “Casablanca” (1942), “2001: Uma Odisseia no Espaço” (1968), “O Senhor dos Anéis: A Sociedade do Anel” (2001), “Um Sonho de Liberdade” (1994), “Psicose” (1960), “Star Wars: Episódio V – O Império Contra-Ataca” (1980) e “Pulp Fiction” (1994).

Nenhuma menção do japonês Akira Kurosawa, do alemão Werner Herzog ou do italiano Frederico Felini, só para citar alguns, sobre ficção não deixaria fora da lista Blade Runner – o caçador de androides, bem conectado as tecnologias do “open AI” ou o histórico Metrópolis (de 1927 do austríaco Fritz Lang).

A narrativa eletrônica tem a limitação daquilo que a alimenta que é a narrativa humana, mesmo sendo feita pelo mais sábio humano, terá limitações contextuais e históricas.

 

Inteligência Artificial e planejamento

26 jan

Todos nós desejamos situações ideais e perfeitas, como diz Margaret Boden evidentemente isto não é restrito a IA, o nosso dia a dia, as nossas viagens e o futuro dependem deste planejamento, o simples voluntarismo, ou o simples desejo (está na moda mentalizar desejos) não resolvem nenhum problema e na maioria das vezes provocam ansiedade e frustração.

No caso da computação, “o planejamento possibilita que o programa – e/ou o usuário humano – descubra quais ações já foram realizadas e porquê. O ´por quê´ se refere à hierarquia do objetivo: esta ação foi realizada para satisfazer aquele pré-requisito, para alcançar tais e tais objetivos secundários” (Boden, 2020, p. 44), isto em alguns planejamentos de programas de computação é chamado de “engenharia de requisitos”.

No caso de IA, existe tanto um “encadeamento para a frente” como “encadeamento para trás”, que explicam e ajudam o programa a encontrar soluções, para isto existe também uma hierarquia, também existe uma hierarquia de tarefas e a autora acrescenta que tanto o planejamento como a hierarquia foi rejeitada por “roboticistas” da década de 1980, e hoje foi incorporada a área.

Existem vários condicionantes de IA que não são claramente expostos e que explicam melhor o que é a IA, por exemplo, “existe uma grande quantidade de hipóteses simplificadoras não matemáticas na IA que geralmente não são mencionadas. Uma delas é a hipótese (tácita) de que os problemas podem ser definidos sem levar em conta as emoções” (Boden, 2020, pg. 46) que é tratado no tópico seguinte e cujo assunto é apenas inicializado.

As redes neurais artificiais que auxiliaram muito o desenvolvimento da IA são bem diferentes de redes semânticas, uma vez que esta já são desenvolvidas a partir da experiência e da interação humana e só depois destes tópicos é que Capítulo 6 é que a autora faz a pergunta sobre o que é a Inteligência Artificial de verdade, como as perguntas capitais “Será que teriam egos, postural moral e livre-arbítrio? Seriam conscientes?” (Boden, 2020, p. 165), e esta pergunta não podemos fugir sem apresentar algum insight filosófico, teológico ou antropológico, talvez um síntese aprofundada dos três fosse mais interessante.

A pergunta em tempos de séria crise civilizatória e necessário uma pergunta anterior: a consciência humana o que seria? Como a tratamos? A ditadura do igual, do insensível e da padronização até mesmo do pensamento nos conduz a uma falsa impressão de que a máquina pode nos ultrapassar (o ponto de singularidade).

BODEN, Margaret A. Inteligência Artificial: uma brevíssima introdução. SP: Ed. UNESP, 2020.

 

O que é inteligência artificial e qual ética é necessária

25 jan

Normalmente IA tem sido caracterizada como “fazer o tipo de coisas que a mente é capaz de fazer” (Boden, 2020, p. 13), porém esta dimensão não tem uma dimensão única e podemos abordar “um espaço estruturado com diferentes habilidades de processar informação” (idem).

O desenvolvimento atual acrescenta “avatares de realidade virtual e os promissores padrões emocionais desenvolvimento para os robôs ‘para o acompanhamento pessoal” (Boden, pg. 14), o que tem sido chamado de assistentes pessoais, como o Siri, o Cortana e modelo de diálogo ChatGTP que é em código aberto e já exige regulamentação especial, por exemplo, a prefeitura de Nova York proibiu o uso nos níveis iniciais de escolarização.

Os chatbots já são conhecidos a algum tempo, porém são bem mais simples, o ChatGPT (Generative pre-Trained Transformer) é uma ferramenta simples e intuitiva, que o usuário usa e treina a partir dos conceitos de IA de Learning Machine, aprendizagem de máquina e portanto cresce em complexidade e capacidade de interação com o usuário na medida que é usado.

A influência em filosofia também é sensível, especialmente nas áreas cognitivas onde são feitas tentativas de explicar a mente humana, neste campo uma recente polêmica foi o fato de um engenheiro da Google afirmar que a plataforma de IA LAMBDA (Language Model for Dialogue Applications), era senciente (que é diferente de consciente), já publicamos um post e não desenvolvemos aqui devido a complexidade do tema.

O tema já teve inicio de discussão na Câmara Federal do Brasil e está para entrar em pauta no Senado Federal, através do projeto de lei PL 20/21, entre outras coisas estabelece um marco legal no desenvolvimento e uso de inteligência Artificial (IA) pelo poder público, empresas, entidades diversas e pessoas físicas, estão sendo ouvidos juristas renomados e especialistas da área.

Outra área preocupante que deve-se ter cuidado é o uso de IA na criação de “vida artificial”, “que desenvolve modelos computacionais das diferentes características de organismos vivos”, nesta área se destacam o desenvolvimento de algoritmos genéticos (AG). (Boden, 2020, p. 15).

BODEN, Margaret A. Inteligência Artificial: uma brevíssima introdução. SP: Ed. UNESP, 2020.

 

 

A Inteligência artificial e seus limites éticos

24 jan

Numa sociedade em que todos os limites éticos já foram ultrapassados, até mesmo o de não presar mais pela vida nosso bem mais fundamental, a evolução da Inteligência Artificial, mesmo com inúmeros acordos éticos dos quais participaram as grandes empresas (Amazon, HP, IBM, Google, etc.), por exemplo, para não produzir armas inteligentes, assistimos o uso indiscriminado em drones na guerra Ucrânia e Rússia, na qual estão envolvidas as potências e suas empresas.

A evolução da IA deu um salto com a internet, a facilidade de informações que correm pelas veias das redes eletrônicas (estas sim são redes) e incentivam as mídias eletrônicas (que são apenas meios disponíveis aos homens) é tão abundante quanto impactante, da noite para o dia, ilustres desconhecidos se transformam em “influencers” e ganham notoriedade, entre eles adivinhos, profetas, políticos e artistas nem sempre com muita moral e ética.

Isto deveria ser tão ou mais preocupante que o desenvolvimento da IA (inteligência artificial), porém o uso das “mídias” por estes influenciadores são sim muito preocupantes, e não se tratam apenas de fake-news, mas todo tipo de barbárie que vai desde o vocabulário até o impacto político, nisto se insere nossas leituras das semanas anteriores de Dalrymple e Zizek, mais ligados aos aspectos cultural e político, que sem dúvida são mais delicados.

Como o tema também é delicado, agora no sentido intelectual de conhecer suas potencialidades e perigos ainda não claramente analisados, como por exemplo, uso de algoritmos genéticos (AG) apontado por Margaret A. Boden, em seu livro “inteligência artificial: uma brevisissima introdução” (Editora Unesp, 2020).

Ela explora, entre várias outras coisas, com clareza de quem é especialista na área, o problema dos ciborgues e trans-humanos, como sugeria Kurzweil que preparava seu próprio corpo para tornar-se um trans-humano.

A diferença entre ciborgues, os implantes médicos de diversas próteses já são claramente possíveis, para o trans-humano, “em vez de considerar as próteses como acessórios úteis para o corpo humano, elas serão consideradas como partes do corpo (trans-)humano” (Boden, 2020, p. 206), onde a força e a beleza humana poderão ultrapassar os limites genéticos e isto de tornariam características “naturais”.

Assim como Jean Gabriel Ganascia (francês que escreveu O mito da singularidade), Margaret Boden também não acredita na ultrapassagem da máquina acima da inteligência humana, este é o ponto da singularidade, e assim também a consciência humana “transcendente” como discutimos, não está submetida a uma “implausibilidade intuitiva” da pós-singularidade (pg. 207).

Sem dúvida a máquina poderá realizar tarefas incríveis e numa rapidez jamais sonhada pelo homem, aliás já o faz, porém “transcendência” não é isto.

BODEN, Margaret A. Inteligência Artificial: uma brevíssima introdução. SP: ed. Unesp, 2020. 

 

Reflexões para 2023

27 dez

Sempre faço um propósito de algumas leituras no final do ano, as vezes abandono alguma e sempre anexo outras, por dever do ofício de professor e pelo surgimento de fatos novos, como foram o caso da pandemia em 2020 e da guerra da Ucrânia no último ano.

Entre outros, quatro livros já encomendados, que pretendo ler no ano de 2023 estão: “A nova síndrome de Vicky: porque os intelectuais europeus se rendem ao barbarismo”  de Theodore Dalrymple (pseudônimo do médico, psiquiatra e ensaísta britânico Anthony Daniels, de 72 anos), embora de 2016 teve vários acertos da conjuntura, o segundo livro é de Slavov Zizek: “O ano que sonhamos perigosamente” (2012), o terceiro é sobre tecnologia, muitas coisas bizarras são escritas sobre a tecnologia e seus avanços, já citamos Jean Michel Ganascia: “O Mito da singularidade”, agora queremos reler a Inteligência Artificial a partir da autora da área porém sobre coisas básicas e sobre os dilemas da IA: “Inteligência artificial: uma brevíssima introdução”, básica mas conhecedora do tema, uma leitura mais profunda exige estudo e especialização na área.

Não poderia faltar na lista um livro de cunho espiritual, o livro de Anselm Grum, que é um monge beneditino alemão com 77 anos, e que muitos de seus livros impactaram as diferentes conjunturas, e agora quer dar uma resposta a ansiedade, depressão e desesperança que atinge boa parte da humanidade pandêmica.

De Dalrymple já postamos sobre o livro “Nossa cultura ou o que fizemos dela” onde a análise cultural precede a econômica e converge com a social, sobre Slavov Zikek tivemos algumas citações e já temos algumas reflexões sobre sua visão atualizada do socialismo, mas cujo aspecto de violência não é descartado.

Na visão de Zizek a superação do estado social ou do welfare state o estado hoje é a administração de uma crise social permanente, e neste livro ainda por ler, as releases e leituras permitidas online que pude ler ele desvenda o apreço dos intelectuais (diria especialmente dos grupos editoriais vigentes e suas narrativas) pela catástrofe, e diria em desacordo com Zizek que ele também está neste processo só que pelo aspecto do uso da violência expresso em diversos livros seus, o indicado porém mostra o aspecto renovador e de verdadeira mudança que os movimentos de 2011 eram marcados, mas foram consumidos pela cultura atual.

Embora tenha esta discordância de fundo ideológico com Zizek, sua análise de 2011 deve ser bastante interessante lembremos da Primavera Árabe, dos movimentos de ocupação como “Occupy Wall Street”, na praça Tahir, em Londres e em Atenas houveram movimentos fortes, houve sonhos obscuros, e certamente um evento que Zizek não lembra, mas é importante: a catástrofe de Fukushima, o problema nuclear, foi em 11 de março de 2011.

Muita literatura com pouco fundamento se aventura na área, onde o problema maior não é nem a mistificação nem os problemas éticos, mas o conhecimento dos elementos básicos e futuras possibilidades da área, a especialista Margaret A. Boden que pesquisa na área e compreende as dúvidas sobre o tema, faz uma brevíssima introdução capaz de elucidar os leigos já confusos pela literatura obscura e crítica da questão.

Talvez falte uma literatura nacional, latina ou africana, um livro que vi e não tenho opinião formada, é: “Guimarães Rosa: Dimensões da narrativa” me chama atenção, não tenho conhecimento das autoras Maria Célia Leonel e Edna Maria F. dos santos, vou pesquisar, a sinopse parece interessante ao abordar autores como Gérard Genette e Ernest Cassirer, entre outros.

 

Consciência, verdade e clareira

08 jul

Pode-se classificar consciência de diversas maneiras, porém ela distante do todo ao qual pertence o ente (identificado como realidade material na modernidade) ela esquece o ser, assim permanece oculto o que de fato é consciência e fica mais próxima da senticiência a qual se referem as a inteligência artificial e que poderia ser chamada de consciência maquínica.

A clareira que emerge do ser, já foi postado neste blog aqui, é aquela que está contida no contexto de um todo, e dela emerge o ser, e esta crítica pode ser estendida a toda modernidade, onde há uma fragmentação e tudo se refere a parte, muitas vezes até oposta ao todo ao qual pertence o ente, e dele emerge a questão do ser, conforme pretendia Heidegger.

Este todo é também reivindicado por Edgar Morin, que completa no dia de hoje 101 anos, e junto do Lima de Freitas e Barsarab Nicolescu escreverem na “Carta da Transdisciplinaridade” de Arrábida (1994) como “a ruptura contemporânea entre um saber cada vez mais acumulativo e um ser interior cada vez mais empobrecido leva a ascensão de um novo obscurantismo, cujas consequências sobre o plano individual e social são incalculáveis” (Arrábida, 1994).

Este tipo de consciência formal leva também uma noção não só de saber, mas também de cultura e até de religião a um desvio longe da clareira do Ser e sujeito a regras e preceitos formais, de Lei e saber em uma lógica aparentemente rigorosa, mas desumana e que oculta o Ser.

Na cultura significa limitar a concepção a um tipo particular de cultura, de uma única cosmovisão, que é válida, mas que não pode ser imposta a outras visões de mundo em especial, às originárias.

Aos cristãos a passagem bíblica que esclarece esta falsa consciência é a que Jesus é questionado por um mestre da Lei, especialistas em consciência formal, pergunta ao mestre o que precisa fazer para conquistar o reino divino, e Jesus diz numa linguagem moderna respeita o Outro e admite o Ser Divino por excelência, aquele que está é o Todo em uma cosmovisão monoteísta (Deus).

Porém a parábola do Bom Samaritano é dita logo em seguida e torna clara a consciência formal, diz a parábola que um homem foi assaltado e maltratado por assaltando e ficou a beira do caminho, passou um sacerdote e um levita (tribo de onde saiam religiosos daquele tempo) e se desviaram do problema, passou um samaritano (que era um povo sem religião e que não gostava dos judeus) e ofereceu ajuda, colocou óleo e vinho nas feridas, colocou em seu animal e levou-o a uma pensão pagando sua estadia e caso se prolongasse pagaria na volta.

Somente o samaritano teve uma atitude de consciência verdadeira com o homem, então Jesus disse aos que perguntavam como conquistar o reino divino “Vai e faze a mesma coisa” (Mt 10,37).

 

Senciencia e consciência humanas

07 jul

Se assistimos ou lembramos de filme de ficção científica como HAL-900, o supercomputador do filem 2001 Uma Odisseia no Espaço, no qual o computador começa a tomar decisões sozinha ou a paródia de “Os Simpsons”, num episódio uma voz ganha vida inteligente e se apaixona por Merge e quer matar Homer, hoje já somos capazes de identificar limites destes devaneios.

Ainda não somos capazes de identificar os limites da máquina de AI (o filme no qual uma máquina inteligente criada para controlar o meio ambiente após o derretimento das calotas polares tem um encontro com um garoto humano David Swinton (o artista Haley Joel Osmet) vai ter uma emocional inesquecível com esta máquina, e Blade Runner, ao meu ver a melhor ficção na área, na linha do “sentiente” no filme “ex-machina” o robot (na foto acima modificada do filme) desenvolve um “instinto”.

A máquina de AI e os Andróides sofisticados de Blade Runner ainda estão longe de serem realidades científicas que permitam “consciência” às máquinas ou mesmo “cérebros inteligentes” (a máquina LaMDA é apenas um programa com dados armazenados em uma nuvem), e são obras de ficção científica, ambas dirigidas a um futuro acima da segunda metade do milênio de XXI.

Regras formais, além de não serem “humanas”, por mais complexas que sejam, são apenas sentientes e mesmo elas não são possíveis de implantadas em robôs ou cérebros.

O problema nosso civilizatório é permitir que a humanidade chegue lá em segurança social, ambiental e moral, assim devemos pensar em consciência dirigida a estes fenômenos, já que só se pode falar de consciência de “algo” fenomenológico, e a consciência mais urgente é a paz social num sentido amplo.

Já nos limites da AI, que caminha para uma senciencia avançada, consegue identificar as pessoas por traços de seus rostos, carros por placas e resolver complexas questões lógicas e avança para problemas de aprendizagem de máquina identificando e classificando dados em linguagem natural que alcançam uma aprendizagem “de” máquina mais profunda (deep learning).

Ter uma consciência mais profunda da realidade além das propagandas enganosas, promessas de paraíso terrenos que escondem atrocidades, olhar para a seguridade social, que inclui todas as pessoas num ritmo acelerado de ações (a Sociedade do Cansaço) sem pausa para a reflexão.

Os nossos problemas mais urgentes e imediatos são humanos: a relação empática e a paz social.

 
 

Polêmica da máquina consciente e algumas devaneios

06 jul

Antes de qualquer polêmica é importante entender que a questão da ética está presente em todas equipes sérias de AI (Artificial Intelligence) e desde a conferência de   na Suécia, diversas empresas e centros de pesquisa assinaram um acordo de não desenvolver máquinas letais em AI.

Jean-Gabriel Ganascia escreveu um importante livro sobre o Mito da Singularidade, o ponto em que a máquina ultrapassaria a inteligência humana e ele próprio tem um setor de ética em seu laboratório, como muitas equipes tem inclusive a Google.

Uma polêmica recente surgiu a partir de uma entrevista do engenheiro da Google Blake Lemoine ao Washington Post e ter definido a máquina de AI LaMDA (Language Model for Dialogue Applications) da gigante de buscas como tendo senciência, imediatamente a Google o afastou e através de seu porta-voz Brian Gabriel informou que as preocupações de Blake não estavam “de acordo com nossos princípios de IA e o Informou de que as evidências não respaldam suas alegações”, mas a polêmica continuou.

A primeira coisa a esclarecer é que senciência tem uma grande diferença de consciência, que significa que “perceber pelos sentidos [no caso das máquinas sensores [ou que ter impressões, enquanto consciência existem diversas definições, porém ficamos com a da fenomenologia que afirma que só se pode falar de consciência de algo, assim depende do fenômeno e da intenção.

Também para a fenomenologia, em especial para a ontologia de Heidegger sua descendente direta (Heidegger foi aluno de Husserl) o Ser é descrito como morada da linguagem, mas não se pode esquecer que linguagem para Heidegger tem uma função poética, ou seja, em um sentido mais amplo que o cotidiano.

Voltando ao sentido dos sensores, agora temos uma evolução da IoT (Internet of Things), pode-se pensar em expressões faciais, gestos e atitudes que possam identificar a senciência de uma máquina, porém a consciência de algo significa também para Heidegger, desvelar o oculto, aquilo que nos leva a uma clareira do objeto ou do fenômeno, a constatação de sua ex-sistência, seu Ser.

Sem apelo a filosofia, voltando ao cotidiano, é possível um comportamento humano que emite e que se desenvolva como máquina, uma robotização de nossas ações, o que inclusive é muito comum na modernidade, uma “mesmice”, a linguagem poética, a arte e a cultura vem em socorro.

Quanto ao aspecto técnico, é desejável que se conheça mais a fundo, enquanto o aspecto social não pode deixar de observar aspectos técnicos importantes e seus limites, claro, inclusive ético.

Aos que querem detalhes técnicos recomendo a entrevista que Melanie Mitchel  concedeu a Zeeshan Aleem: Did a Google create a sentient program ?, há muita fantasia e ficção por ai.

 

2020: quais previsões para TI

21 jan

São famosas e históricas as previsões na década de 70 pelos presidentes da Digital Equipments e IBM que os computadores pessoais não se tornariam realidade, mas no início de 80 já eram.

A conceituada revista Wired dizia naquela época que eles aconteceriam, mas seriam primeiro adotados nas empresas e depois nas famílias, aconteceu o inverso.

As previsões da revista para a tradução simultânea eram para 2015, elas aconteceram em 2017 mas ainda existem reclamações de sua eficácia, a aposta nos carros com hidrogênio eram para o ano 2010, o que está se tornando realidade são os carros elétricos, lentamente por causa do mercado é verdade, mas também a tecnologia das baterias e autonomia dos caros ainda evolui.

Cinco tecnologias poderão entretanto mudar o mercado em 2020: 5G poderá entrar definitivamente no mercado mudando os negócios das operadoras de smartphones, multiclouds como evolução do armazenamento em nuvem será uma evolução das nuvens atuais, AI, em especial, Machine Learning entrará nas empresas e nos negócios dando impulsos a TI atual, e, finalmente muitas possibilidades de mobilidade podem mudar, com a evolução da IoT.

 

Quatro buzzwords de TI para 2020

20 jan

Algumas palavras já vem sendo usadas de maneira excessiva e equivocada, pode-se citar tecnologias disruptivas vistas como qualquer uma que tenha impacto no mercado, quando o problema é a escala de produção e consumo, os data lakes, usado para armazenar dados brutos que não significam que são ou podem ser tratados com facilidade (há ambientes e ferramentas específicas para isto), e, o terceiro termo que não é novo também é DevOps que é a rápida implantação de códigos com facilidades de retirar e corrigir possíveis bugs (erros no código).
As quatro buzzwords que devem crescer em 2020 e que representam um perigo tanto no seu uso quanto na implantação são BigData (sim já existia em 2019 mas sua expansão é indicada como um grande volume para 2020), IA idem a anterior, Agile que significa a rapidez de mudança de mercado e de estratégia das empresas, se mal utilizada serão um fracasso e por fim e não menos essencial, e por último, aquilo que resolveu-se chamar de “transformação digital”.
Comecemos pelo último que engloba os anteriores, inclusive os 3 excluídos da análise, transformação digital não significa necessariamente que “tudo agora muda com os processos digitais”, e é claro não significa que nada muda, conforme a área o impacto, a disrupção (no sentido de escala) é claro que o impacto poderá e deverá acontecer, mas cuidado com o Agile.
Agile é o processo de responder rapidamente as mudanças, mas a resposta não significa ser responsivo em qualquer situação, a grande maioria merece análise tais como situações transitórias de mercado, processos sazonais, resposta a concorrência e em especial, mudanças de “moda”.
IA pode ser uma resposta a muitos negócios, mas o próprio termo “inteligência” é questionado, na verdade é um pouco de cada processo anterior, incluindo bigData, Agile e Data lakes, isto é, deve haver ferramentas do tipo Analytics e Machine Learning (foto) que auxiliem o processo.
A Gartner detectou um aumento de 25% para 37% de 2018 para 2019 no uso de IA para negócios, porém a eficácia não é garantida, assim como apenas o uso de TI não significa a modernização da empresa.