{"id":2430,"date":"2023-05-26T00:00:00","date_gmt":"2023-05-26T00:00:00","guid":{"rendered":"https:\/\/www.cesar.org.br\/painel\/insight\/desafios-e-promessas-para-a-era-da-ia-generativa\/"},"modified":"2024-04-17T21:45:21","modified_gmt":"2024-04-17T21:45:21","slug":"desafios-e-promessas-para-a-era-da-ia-generativa","status":"publish","type":"insight","link":"https:\/\/www.cesar.org.br\/painel\/insight\/desafios-e-promessas-para-a-era-da-ia-generativa\/","title":{"rendered":"Desafios e promessas para a era da IA Generativa"},"content":{"rendered":"
\n

H\u00e1 uma cacofonia de vozes especializadas expressando profundas preocupa\u00e7\u00f5es sobre os poss\u00edveis danos \u00e0 humanidade devido \u00e0 acelera\u00e7\u00e3o r\u00e1pida da IA. Mas, h\u00e1 quem veja\u00a0um grande potencial em\u00a0benef\u00edcios.<\/strong><\/p>\n

No Dia do Trabalho (1\u00ba de maio), o pioneiro da IA, Dr. Geoffrey Hinton – conhecido como o “Padrinho da IA” e uma das vozes mais respeitadas no campo -, deixou seu cargo no Google para poder alertar o mundo sobre os perigos do r\u00e1pido avan\u00e7o da Inteli\u00eancia Artificial em um curto per\u00edodo de tempo.<\/p>\n

Durante meio s\u00e9culo, o Dr. Hinton dedicou seu trabalho de vida ao desenvolvimento da tecnologia no cerne de chatbots como o ChatGPT, ent\u00e3o foi um tanto chocante v\u00ea-lo se juntar a muitos outros denunciando a rapidez das guerras da IA generativa, como os muitos l\u00edderes da ind\u00fastria de tecnologia que assinaram uma carta aberta <\/a>ap\u00f3s o lan\u00e7amento do ChatGPT mais recente da OpenAI, em mar\u00e7o, pedindo uma pausa de seis meses no desenvolvimento de novos sistemas, porque a tecnologia de IA “representa um risco profundo para a sociedade e a humanidade”.<\/p>\n

Devido a uma “corrida armamentista” entre gigantes da tecnologia – especialmente Google x Microsoft e OpenAI <\/strong>-, Hinton e outros t\u00eam v\u00e1rias preocupa\u00e7\u00f5es, incluindo o potencial para a nova tecnologia perturbar o mercado de trabalho, causar disputas de propriedade intelectual ou, \u00e0 medida que a tecnologia avan\u00e7a, ter novos sistemas avan\u00e7ados de IA gerando e executando seu pr\u00f3prio c\u00f3digo – tornando realidade filmes de fic\u00e7\u00e3o cient\u00edfica como a franquia “O Exterminador do Futuro”.<\/p>\n

Uma preocupa\u00e7\u00e3o mais imediata \u00e9 que “a internet ser\u00e1 inundada com fotos, v\u00eddeos e textos falsos, e a pessoa comum ‘n\u00e3o ser\u00e1 capaz de saber o que \u00e9 verdadeiro'”<\/em>, de acordo com Geoffrey Hinton.<\/p>\n

Avaliando os desafios juntamente com a promessa\u00a0da IA generativa<\/h2>\n

“Eu acredito que o Dr. Hinton e outros especialistas em IA t\u00eam o direito de se preocupar. Eu entendo isso, e acredito que n\u00f3s tamb\u00e9m devemos estar preocupados”,<\/em> disse H.D. Mabuse, designer s\u00eanior no CESAR e professor de filosofia na CESAR School, al\u00e9m de ser um artista visual e m\u00fasico. “Esses desafios e a capacidade de fazer ajustes para reduzir qualquer dano precisam ser abordados de forma multifacetada, envolvendo l\u00edderes da ind\u00fastria tecnol\u00f3gica, academia e governo para regulament\u00e1-lo.”<\/em><\/p>\n

\n
\"\"<\/figure>\n<\/div>\n

Mabuse acredita que o melhor caminho a seguir deve envolver pelo menos tr\u00eas abordagens:<\/p>\n

1) Devemos desenvolver projetos em IA de maneira socialmente respons\u00e1vel,<\/strong>\u00a0tanto no n\u00edvel da ind\u00fastria quanto na forma como ensinamos os alunos em institui\u00e7\u00f5es de ensino superior como a CESAR School. Para que essa tecnologia seja projetada de maneira cuidadosa e segura, \u00e9 necess\u00e1rio incorporar mais treinamento \u00e9tico e garantir maior diversidade entre aqueles que a desenvolvem.<\/p>\n

2) Em segundo lugar, a ind\u00fastria tecnol\u00f3gica e o governo devem se unir<\/strong>\u00a0para discutir, colaborar e encontrar novas maneiras de adicionar mais diretrizes e regulamenta\u00e7\u00f5es, a fim de garantir o melhor resultado para a sociedade e a humanidade.<\/p>\n

3) Por fim, do ponto de vista individual, precisamos nos educar e estarmos mais atentos<\/strong>\u00a0para identificar a desinforma\u00e7\u00e3o, e considerarmos o conte\u00fado fornecido por ferramentas de IA generativa com alguma suspeita, assim como estamos aprendendo a fazer com o conte\u00fado que consumimos na internet e nas redes sociais.<\/p>\n

Mabuse tamb\u00e9m v\u00ea boas promessas nessa nova era da intelig\u00eancia artificial generativa.\u00a0Por exemplo, ele fala e escreve sobre o efeito de democratiza\u00e7\u00e3o da nova tecnologia, incluindo o Pina, bairro da Zona Sul do Recife, onde artistas \u00a0est\u00e3o produzindo “incr\u00edveis” v\u00eddeos de hip-hop usando tecnologias que fazem uso de IA.\u00a0“Eles podem fazer m\u00fasica e lan\u00e7ar novos v\u00eddeos em quest\u00e3o de 30 minutos”, disse ele. “E \u00e9 maravilhoso ver uma comunidade afrocentrada criar arte t\u00e3o fant\u00e1stica, trazendo para si o uso desses \u00a0algoritmos.”<\/em><\/p>\n

“Todo mundo tem um tio ou tia que tem muito medo de novas tecnologias”,\u00a0<\/em>diz Mabuse.\u00a0“Eu acredito que a chave para o momento em que estamos vivendo hoje, com essa IA avan\u00e7ada, \u00e9 evitar a tecnofobia, mas tamb\u00e9m ter cautela com a tecnologia. No entanto, minha cren\u00e7a pessoal \u00e9 que o desenvolvimento respons\u00e1vel de novas tecnologias, com o entendimento das rela\u00e7\u00f5es sociais atribu\u00eddas a elas, \u00e9 uma porta de entrada para muitas coisas novas.”<\/em><\/p>\n

A ideia da promessa que esse progresso tecnol\u00f3gico pode trazer<\/h2>\n

Ao falar sobre o conceito de “Design est\u00e1 no DNA do CESAR”, Mabuse cita os diversos projetos de P&D em fila na respeitada institui\u00e7\u00e3o hoje, que s\u00e3o baseados em colabora\u00e7\u00e3o e cocria\u00e7\u00e3o com usu\u00e1rios finais, clientes e parceiros. Ao fazer isso, ele destaca a metodologia de tr\u00eas etapas do CESAR, que primeiro identifica um conjunto de oportunidades, pontos problem\u00e1ticos e motiva\u00e7\u00f5es por meio de pesquisas aprofundadas e, em seguida, passa para uma fase de capacita\u00e7\u00e3o de idea\u00e7\u00e3o, sele\u00e7\u00e3o e valida\u00e7\u00e3o para resolver desafios e otimizar benef\u00edcios.\u00a0“\u00c9 assim que estamos abordando essa nova era do IA generativa hoje”<\/em>, disse ele.<\/p>\n

N\u00f3s reconhecemos o valor estrat\u00e9gico do Design\u00a0e o seu potencial transformador.\u00a0Nossa\u00a0forma de inovar \u00e9 inspirada no processo Double Diamond, uma abordagem cl\u00e1ssica da disciplina. Com mais de duas d\u00e9cadas de experi\u00eancia na solu\u00e7\u00e3o de problemas complexos, o CESAR desenvolveu uma abordagem pr\u00e1tica que d\u00e1 origem a um terceiro diamante que completa nossa\u00a0metodologia \u00fanica.<\/strong>
\n\"\"<\/p>\n

\u00a0“O passo final e objetivo m\u00e1ximo do CESAR \u00e9 criar o que chamamos de artefatos como resultado de nossa metodologia”, disse Mabuse. Esse termo vem da defini\u00e7\u00e3o de um objeto ou item que possui significado hist\u00f3rico, cultural ou art\u00edstico. Eles s\u00e3o tipicamente criados por humanos ou designados como valiosos por humanos – e servem como uma representa\u00e7\u00e3o f\u00edsica ou evid\u00eancia de civiliza\u00e7\u00f5es, sociedades ou indiv\u00edduos do passado.<\/em><\/p>\n

“Nosso objetivo final no CESAR \u00e9 ajudar a sociedade em geral a compreender os muitos desafios e implica\u00e7\u00f5es desta nova era da IA, na qual estamos entrando rapidamente, e ajudar a cocriar novas abordagens para enfrent\u00e1-los com nossa extensa rede de acad\u00eamicos, parceiros e clientes na regi\u00e3o e globalmente, e desempenhar um papel importante em ser uma for\u00e7a positiva \u00e0 medida que essa tecnologia continua a avan\u00e7ar nas pr\u00f3ximas d\u00e9cadas”,\u00a0disse Mabuse.<\/strong><\/cite><\/p>\n

Escrevemos\u00a0um artigo explorando nosso ponto de vista sobre o impacto da Intelig\u00eancia Artificial Generativa no design, na codifica\u00e7\u00e3o e na educa\u00e7\u00e3o. Baixe este material para entender como a Intelig\u00eancia Artificial est\u00e1 transformando a sociedade com seu trabalho cognitivo, complexo e art\u00edstico, em meio a todas as cr\u00edticas e medos em torno de seu potencial de substituir o poder humano.<\/h4>\n

Clique para ler o material.<\/a><\/h4>\n<\/div>\n","protected":false},"featured_media":2431,"template":"","categories":[5],"tags":[93],"formato_insights":[],"class_list":["post-2430","insight","type-insight","status-publish","has-post-thumbnail","hentry","category-tecnologia","tag-ia-generativa"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.cesar.org.br\/painel\/wp-json\/wp\/v2\/insight\/2430","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.cesar.org.br\/painel\/wp-json\/wp\/v2\/insight"}],"about":[{"href":"https:\/\/www.cesar.org.br\/painel\/wp-json\/wp\/v2\/types\/insight"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.cesar.org.br\/painel\/wp-json\/wp\/v2\/media\/2431"}],"wp:attachment":[{"href":"https:\/\/www.cesar.org.br\/painel\/wp-json\/wp\/v2\/media?parent=2430"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.cesar.org.br\/painel\/wp-json\/wp\/v2\/categories?post=2430"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.cesar.org.br\/painel\/wp-json\/wp\/v2\/tags?post=2430"},{"taxonomy":"formato_insights","embeddable":true,"href":"https:\/\/www.cesar.org.br\/painel\/wp-json\/wp\/v2\/formato_insights?post=2430"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}