Imagine passar sua vida acorrentada a uma parede de caverna com o rosto voltado para a parede.

Primeiro, para definir o cenário e facilitar o acompanhamento, farei apenas dois pontos curtos:

IA sem muitos dados não é IA, é apenas um livro de regras. O carro autônomo é um exemplo. Não é diferente de qualquer aplicativo que você usa, mas é um pouco mais complicado. Só porque costumava ser feito por humanos não o torna mais inteligente do que processamento de texto ou CRM.

uma. Big data é um hÉ um grande ponto fraco em IA porque nunca e muito provavelmente nunca será preciso ou suficientemente completo.

b. A inexplicabilidade das regras que a IA extrai de corpos de dados torna-as muito perigosas para a maioria das situações até que o problema seja resolvido.

Platão alegoria da caverna foi um 'formulário' no qual ele descreveu Big Data e outros conceitos semelhantes. As "formas" de Platão são capazes de se adaptar a conceitos ainda não pensados ​​porque é, em essência, como funcionam.

A alegoria da Caverna de Platão, conforme narrada por Sócrates, descreve vividamente uma tribo de pessoas que passam suas vidas acorrentadas a uma parede de caverna com seus rostos voltados para a parede.

Atrás deles, a vida continua normalmente em torno de uma fogueira.
Essas pessoas veem o mundo através das sombras projetadas na parede da caverna. Pessoas, coisas, movimentos, até emoções, todos atuam diante deles na parede da caverna como sombras.

Essas pessoas têm um forte senso de vida, mas seu senso é, na melhor das hipóteses, uma sombra da coisa real. Os detalhes-chave estão completamente ausentes, um detalhe que pode ter mudado completamente sua interpretação do drama que se desenrola na parede diante deles. Seu senso de escala, velocidade e as relações entre uma forma e outra são mal interpretados. Informações vitais que todos nós tomamos como certas, mas continuamos a cometer erros terríveis com frequência, estão totalmente ausentes para essas pessoas infelizes acorrentadas à parede da caverna.
Se ao menos pudéssemos deixá-los ver a cena por trás através de uma câmera de TV, deixá-los ver as expressões nos rostos dos palestrantes e destinatários, saber o que vive nos corações dos crentes e dos não crentes. Talvez sua visão desse mundo oculto fosse mais precisa. Talvez então eles ficassem mais bem informados e tomassem melhores decisões.

Platão estava descrevendo IA

O homem de frente para a parede ouve os sons e vê as sombras do movimento. Sua mente tem que tomar decisões sobre o que ele está ouvindo e vendo. A tela na qual ele deve pintar este quadro está cheia de seus medos e desejos baseados em experiências anteriores e no conhecimento compartilhado de outras pessoas ao longo da parede. Tanto a situação atual quanto a tela estão totalmente distorcidas e o resultado geralmente é quase imperceptível. “Uma sombra grande e crescente se aproximando da parede fora da hora das refeições significa uma surra iminente.”. Isso explica uma experiência anterior, mas não tem nenhum conceito do efeito da distância do fogo, dos alvos intermediários ou, na verdade, de todas as outras razões pelas quais alguém grande ou pequeno pode se aproximar da parede.

Mesmo quando ele finalmente estiver livre para se virar e seus olhos forem capazes de suportar o brilho, ele terá pouco quadro de referência com o qual começar a absorver a verdade sobre a vida, mesmo supondo que ele tenha esse desejo. As regras, uma vez criadas, raramente têm algum mecanismo para ser removido e ele fica preso para sempre com a maioria de seus erros do passado. Em breve, seus comportamentos começarão a lhe render espancamentos e fome, e suas regras mal concebidas começarão a provar que ele estava certo o tempo todo.

Como as sombras funcionam na IA.
A maior parte da IA, especialmente se ela faz algo útil, é baseada no aprendizado de máquina. Quase todo o resto não é IA, mas um livro de regras, ou seja, um humano disse a ele as regras a seguir. É assim que o MS Word funciona e não é IA.
Outra forma é a classificação humana ou classificação humano / máquina, em que uma máquina sugere classificações para algo e um humano verifica se é seguro antes de concordar ou dizer não. Essa é uma abordagem mais segura, mas menos poderosa, devido ao custo e ao fato de que as sombras não são permitidas. Os humanos não os entendem.

O aprendizado de máquina simplesmente ensina a máquina a ver o que, para você e eu, é uma grande névoa ou sopa de ervilha e identificar grupos de coisas que se repetem. Essa coisa que ele descobre pode ser chamada de “AQ138_: wer” para fins de argumentação. A máquina não liga. É um apanhador de sombras.

Em seguida, damos à máquina um “conjunto de treinamento”, digamos, uma coleção de fotos de cães e pedimos que compare os conjuntos de dados por algum tempo, rotulando todos os agrupamentos / sombras que correspondem a uma imagem de cachorro como “cachorro”. Se obtivermos resultados, alcançamos algo. Agora ele é capaz de encontrar sombras de cães. Eles podem ser lobos ou possivelmente até gatos, no entanto, há muito trabalho a ser feito com conjuntos de treinamento mais refinados.

Um exemplo que encontrei foi encontrar lobos que foram intencionalmente espalhados entre as fotos de cães, até que foi descoberto que o fator de reconhecimento era um pedaço de neve na foto. Nosso amigo não tinha notado que a maior parte do conjunto de treinamento para lobos continha neve. As sombras são coisas perigosas, embora às vezes sejam emocionantes.
Foi necessário muita tentativa e erro neste exemplo, mascarando diferentes partes das imagens de treinamento para testes subsequentes, antes que fosse possível descobrir que havia um erro e por que o erro estava acontecendo. Isso ilustra perfeitamente o problema de inexplicabilidade com aprendizado de máquina e IA. Não saber que há um erro é muito mais perigoso do que os desafios de encontrar a causa e eliminar o erro. A verdade é que não sabemos se os erros existem, ou pelo menos onde eles estão. Imagine essa máquina voando em um avião cheio de pessoas.

Ou talvez Platão estivesse falando sobre mídia social

Pode ter ocorrido a você, enquanto zombávamos das máquinas, que nós, humanos, cometemos erros muito semelhantes todos os dias ao olharmos para nossos telefones e PCs para ver quem está dizendo o quê nas redes sociais.
Agora toda a jogada desse assunto é para outro dia, mas a parte que se encaixa bem em nossa discussão é a sombra na parede que representa nosso amigo, ou a pessoa que pensamos ser nosso amigo que postou uma foto e um perfil online e contou nós éramos inteligentes.
As pessoas, de amigos a falsos, a bots administrados por firmas de relações públicas ou até mesmo governos são todas sombras do mundo real, nem mais nem menos do que as sombras ao redor da fogueira.

A diferença aqui é que essas sombras são deliberadamente manipuladas por seus proprietários para mostrar a você uma sombra específica, não apenas qualquer sombra aleatória, quanto mais uma verdadeira ou representativa.
O que deve ser aprendido com essas sombras no sentido de que os indivíduos têm mais probabilidade de ser aquilo que cada proprietário deseja projetar e, portanto, o que eles não são ou não no nível a que aspiram.

No sentido de organizações e governos, as sombras representam uma charada ou máscara de algum tipo, representando aquilo em que eles querem que você acredite, mas quase certamente não são o que realmente é.
Como essas sombras são apresentadas a você, vai dizer a opinião que têm de você. Em geral, esta é uma opinião sobre o seu tipo, e não sobre você como um indivíduo e, de fato, revela a visão dele do mundo mais do que a sua.
Então, é claro, há a plataforma, o cara que está ganhando com a fogueira e precisa que você permaneça acorrentado à parede. Ele garante que você obtenha o feedback de que precisa para continuar reconhecendo e respondendo às sombras e querendo ver mais delas.

Ao contrário dos prisioneiros de Platão, esses prisioneiros são auto-aprisionados. Eles são capazes de sair da caverna e observar a fogueira, mas preferem se relacionar com a sombra em vez do objeto. Isso é preciso, conforme a hipótese de Platão.

A profecia de Platão para você e para mim é aterrorizante se apenas formos capazes de vê-la.

Hoje vivemos em um mundo onde todas as nossas notícias e nossas interações com o mundo em que vivemos são experimentadas por meio de canais de mídia social e muitas vezes em segunda ou terceira mão, ou posteriormente e editadas / apresentadas com as atitudes anexadas de nossos pares. Ao escolher o que lemos ou vemos, estamos escolhendo nossos pares e vice-versa. Isso é poderoso e altamente restritivo, ainda mais do que a alegoria da caverna de Platão.

Na verdade, as fontes tradicionais de notícias e informações, o que resta delas, estão murchando rapidamente. Desaparecendo ou sucumbindo ao mesmo destino. Logo não haverá uma fogueira para ver, porque ela também foi colocada em nosso benefício, e a realidade está escondida ainda mais profundamente, se tivéssemos o desejo ou a constituição de olhar diretamente para tal luz ofuscante ou qualquer necessidade de tudo para afastar a parede.

As pessoas que nos governam e nos policiam, há muito tempo terão deixado de ser pessoas, mas máquinas movidas a IA que tomam decisões com base na média do que as sombras somam, mas muito mais com base em qual caminho custará menos e render mais para quem comanda o show.

No momento, parece cada vez mais que os proprietários de plataformas de tecnologia de mídia social a pesquisa e algoritmos de IA em nuvem são as pessoas que detêm os ases. Deles é a fogueira e deles é a lente que vê as sombras e nos diz o que pensar sobre elas.
As pessoas que os capacitam estão convencidas de que sempre serão capazes de exercer o poder dos homens que controlam as máquinas.

Fonte: Ed teve uma carreira dupla, indo para frente e para trás entre as funções de liderança em engenharia de software e as funções de marketing de transformação.

https://4592d67c64b546b.medium.com/plato-had-big-data-and-ai-firmly-on-his-radar-38fe0fd75170