¬аше окно в мир —јѕ–
 
Ќовости —татьи јвторы —обыти€ ¬акансии Ёнциклопеди€ –екламодател€м
—татьи

26 сент€бр€ 2021

‘атальный изъ€н Ђискусственного интеллектаї

–альф √рабовски–альф √рабовски

ќригинал публикации: Ralph Grabowski. A.I.Тs Fatal Flaw


¬ последние годы технологическа€ составл€юща€ »» изр€дно поблекла на фоне всЄ более расцветающих маркетингово-рекламных акцентов:

  • –уководители компаний получают возможность сн€ть с себ€ ответственность за аварии, за€вл€€, что решени€ принимал »»;
  • ћаркетологи получают возможность объ€вл€ть, что их продукты Ц в отличие от конкурентных Ц используют »», поэтому вам следует покупать именно их.

ѕочему же »» опустилс€ так низко?


Ќесколько мес€цев назад компани€ Boston Robotics распространила промо-ролик, демонстрирующий Ђидеальный и трогательный ритмичный танецї трех роботов. ¬ порыве благоговени€ некий цифровой евангелист воскликнул: Ђ¬ы только представьте, что смогут делать »»-устройства через 5-10 лет!ї (1)

ћы не можем знать, верит ли сам цифровой проповедник своему пророчеству, поскольку он, в конце концов, евангелист, которому поручено распростран€ть хорошие цифровые новости.

—пециалист по предсказательному моделированию Filip Piekniewski (2) так комментирует то, что стоит за танцем роботов: Ђ–обот выполн€ет набор заранее запрограммированных движений с помощью набора ѕ»ƒ-регул€торов (см. ¬икипеди€), точно так же, как нечто подобное 20 лет назад делал любой продвинутый станок с „ѕ”. ¬ данном случае машине придали облик гуманоида, чтобы наивные люди могли легче поверить в то, что в ней есть некоторое количество разумаї.

Ђѕредставьте, что »» сможет делать в следующие N летї, Ц с 1960-х годов слышали мы от хора сторонников »». ¬ 1967 году ученый-когнитивист ћарвин ћински утверждал, что Ђв течение жизни одного поколени€ ... проблемы создани€ искусственного интеллекта будут существенно решены (3)ї.

«арождение »» в конце 1950-х годов теперь ближе к началу ѕервой мировой войны, чем к сегодн€шнему дню. ѕроблемы создани€ искусственного интеллекта так и не решены, но теперь мы всЄ лучше понимаем, почему »» не работает должным образом.

ћелани ћитчелл в своей статье Ђѕочему »» сложнее, чем мы думаемї (4) пишет, что мышление исследователей »» заражено несколькими заблуждени€ми.

«аблуждение є1: ќграниченный интеллект Ц это просто часть общего интеллекта

ѕосле того как программа AlphaGo, разработанна€ компанией DeepMind, выиграла партию игры в го (5) (кажетс€, это игра, в которой человеку очень сложно выигрывать), энтузиасты »» использовали это событие как доказательство того, что иде€ создани€ полноценного »» вполне осуществима. ѕозже мы стали свидетел€ми того, как компьютер Watson плохо справл€лс€ с прогнозированием диагноза рака (6), а GPT-3 написал множество бессмысленных статей (7).

Ќебольшие продвижени€ не могут служить доказательством неизбежной окончательной победы. ¬ 2012 году —тюарт ƒрейфус заметил: ЂЁто равносильно за€влению, что перва€ обезь€на, взобравша€с€ на дерево, начала путь к высадке человека на Ћунуї (8).

»лон ћаск пообещал покупател€м электромобилей Tesla, что к 2020 году будет реализовано беспилотное управление 5-го уровн€ (вообще без участи€ водител€-человека). «атем в 2021 году он посетовал: Ђјвтопилот в целом Ц сложна€ проблема, поскольку она требует реализации »» дл€ значительной части реального мира. я не ожидал, что это будет так сложно, но сейчас сложность дл€ нас очевидна. Ќигде нет больше степеней свободы, чем в реальностиї (9).

Ёто заблуждение € замен€ю утверждением: »з »», выполн€ющего одну задачу, не вытекает »», выполн€ющий все задачи.

«аблуждение є2: легкие задачи решать легко, трудные Ц трудно

 огда приверженцы »» объ€вл€ют о том, что компьютер лучше играет в го или диагностирует проблемы со здоровьем, чем люди, они констатируют очевидное. ѕредполагаетс€, что компьютеры лучше нас справл€ютс€ с утомительными и сложными задачами. ”верен, что программна€ реализаци€ метода конечных элементов работает быстрее и лучше, чем €, использующий деление в столбик.

ќднако »» пасует перед задачами, которые люди считают тривиальными, такими как необходимость пройти через толпу на станции метро или умение играть в шарады, которое, по мнению психолога Gary Marcus, находитс€ далеко за пределами возможностей »» (10).

ѕреп€тствием дл€ окончательного развити€ »» €вл€етс€ отсутствие у »» здравого смысла. ћитчелл рекомендует исследовател€м »» вз€ть за образец способности годовалого ребенка, а не умников с IQ выше 100.

Ёто заблуждение € замен€ю утверждением: способность »» решать простые задачи не означает способности к решению сложных задач.

«аблуждение є3: ћожно вполне естественно использовать привычные термины и пон€ти€

ћитчелл отмечает, что описани€ поведени€ »»-программ изобилуют терминологией, обычно примен€емой дл€ характеристики мыслительной де€тельности человека, и приводит примеры:

  • Ќейронные сети по€вились с целью имитации работы мозга, но с фундаментальными отличи€ми;
  • ћетоды машинного или глубокого обучени€ на самом деле не похожи на обучение людей или животных.

¬ 2011 году представители IBM хвалились тем, что компьютер ЂWatson способен за секунды прочитать все существующие в мире тексты по теме здравоохранени€ на семи €зыкахї и при этом Ђпонимает контекст и нюансы прочитанногої (11) (курсив –. √рабовски). “аким способом нас пытались заставить поверить, что Watson умнее людей, и это сформировало представление о том, как исследователи »» представл€ют область своей де€тельности.

≈сли бы компьютеры обучались так же, как люди, они могли бы примен€ть свои умени€ в широкой области Ц это называетс€ Ђпереносом обучени€ї. ќднако компьютеры так обучатьс€ не могут. “о, чему фактически »»-софтвер обучаетс€, это ссылки на конкретные алгоритмы и статистические коррел€ции дл€ достижени€ высокой производительности без обучени€ навыкам: нечто похожее на то, как мы заучиваем факты, чтобы сдать школьные экзамены.

Ёто заблуждение € замен€ю утверждением: само по себе именование »» Ђчеловекоподобнымї не делает »» человекоподобным.

«аблуждение є4: весь интеллект сосредоточен в мозге

ѕод вли€нием сюжета о ‘ранкенштейне или философов-материалистов эпохи ѕросвещени€ сторонники искусственного интеллекта предполагают, что рациональное мышление происходит исключительно в мозге. ѕоэтому целью становитс€ Ђћозг в  оробкеї: воспроизведем мозг в виде »», после чего заменим человеческий мозг софтверно-хардверными элементами или же вставим эти элементы в человекоподобных роботов Ц как представл€етс€ во многих телевизионных сериалах.

«аблуждение такого подхода, по мнению ћитчелл, состоит в том, что в мозге нет никаких материальных элементов, уникальных дл€ мозга. –азумно полагать, что в процессе мышлени€ участвуют сигналы из остальных участков тела человека. »золированный искусственный мозг не сможет функционировать как задумано.

¬ 2017 году один из родоначальников глубокого обучени€ ƒжеффри ’интон (Geoffrey Hinton) легкомысленно за€вил: Ђ¬ нашем мозге работают триллионы св€зей, а даже в самых крупных на сегодн€шний день сет€х таких св€зей всего лишь миллиарды. “ак что мы отстаем на несколько пор€дков, однако € уверен, что хардверщики решат эту проблемуї (12).

—читать, что задача построени€ »» будет решена с помощью наращивани€ хардвера, Ц весьма близоруко. »менно поэтому энтузиасты отодвигают дату —ингул€рности всЄ дальше в будущее. (—ингул€рностью называют рубеж, когда технологи€ превзойдЄт человеческие способности). —начала объ€вл€лось, что это произойдет к 2029 году, затем примерно в 2039, а теперь называют 2045 или позже (13).

Ёто заблуждение € замен€ю утверждением: »», который копирует функции человеческого мозга, не станет реализацией полноценного »».

ћнение автора

ќдержимость искусственным интеллектом объ€сн€етс€ тем, что он €вл€етс€ самой сложной вычислительной задачей.  ак только она будет решена, нам больше нечего будет решать: »» решит за нас все остальные проблемы.

„еловек склонен опиратьс€ на разнообразные искажени€ воспри€ти€, которые помогают справл€тьс€ с тем, чего мы не знаем, с такими иррациональност€ми, как линейные предсказани€, рационализации, когнитивные диссонансы, предвз€тость подтверждени€, интуици€, групповое мышление, свобода воли, здравый смысл, фанатизм, аналогии.

ѕоэтому перед исследовател€ми »» возникает вопрос: следует ли внедрить в компьютерный код человеческую иррациональность или же она не нужна? —уд€ по скандалу, разразившемус€ по поводу про€влений расизма и других предубеждений, которые продемонстрировали некоторые системы »» (14), текущее мнение состоит в том, чтобы исключить из »» любую человеческую иррациональность.

Ќо »» уровн€ —ингул€рности должен использовать элементы иррациональности, что невозможно. ƒаже если бы иррациональность была реализована, цивилизаци€ —ингул€рности постепенно стала бы походить на мир —айлонов (15), которые зате€ли войну лишь потому, что люди казались им слишком воинственными.

¬ 1960-х нам обещали усовершенствованный мозг. Ќа деле в 2020-х годах мы улучшаем выбор смайлов: Ђ¬аш Chromebook получит новое средство выбора смайлов в этом мес€це и 992 новых смайлика в конце этого годаї (16).

¬ чем заключаетс€ фатальный изъ€н »»? ¬ том, что он не может воспроизвести человеческую метафизику; рациональное не может постичь иррациональное.

ћожно ли применить »» в сфере —јѕ–?

Ќекоторые вендоры сообщают, что их софтвер использует »». Ќа мой взгл€д, это не так. ¬от некоторые примеры.

”тверждаетс€, что одна из —јѕ– умеет предсказывать поведение пользовател€. Ќапример, пользователь только что нарисовал окружность.  акое следующее действие предсказывает »»? Ќам не требуетс€ компьютер, чтобы догадатьс€:

  • нарисовать ещЄ одну окружность или какую-то другую фигуру,
  • отредактировать или удалить нарисованное,
  • напечатать нарисованное.

ѕо-моему, это не »», это разновидность MRU (most recently used) Ц средство хранени€ вариантов часто используемых пользователем команд.

ƒруга€ —јѕ–, как утверждаетс€, использует »» дл€ решени€ распространенных задач типа замены соединений конфигураци€ми болтов и отверстий. Ќа самом деле, это всего лишь S&R (Search and Replace, Ђѕоиск и заменаї).

MRU и S&R снижают объем рутинных действий, чем принос€т пользу пользовател€м —јѕ–. “олько не называйте это искусственным интеллектом.


ѕохоже, есть нечто общее между »» и параллельной обработкой. Ќи то, ни другое не работает в —јѕ–, и по сходной причине.

ѕараллельна€ обработка не может использоватьс€ в большинстве областей —јѕ–, поскольку действи€ пользовател€ невозможно предсказать. ѕрогнозирование требуетс€ до того, как программное обеспечение сможет разделить обрабатываемую команду между несколькими процессорами, а затем объединить результаты. ѕрирода —јѕ– такова, что программное обеспечение не может предсказать результат наших действий. “о же самое и с »»: действи€ пользователей невозможно предсказать в достаточной степени, чтобы »» мог им помочь.

(ѕараллельна€ обработка действительно используетс€ в област€х —јѕ–, наход€щихс€ вне контрол€ пользователей. ѕримеры включают загрузку файлов, выполнение визуализации и расчет анализа методом конечных элементов.)

“ворчество Ц это хаос, что блест€ще показывает ƒжордж √ульдер в своей книге Ђ«нание и силаї. »» может вз€ть на себ€ процесс проектировани€ только после того, как завершен этап человеческого творчества.

P.S. —в€зь »» 1950-х с CAD 2020

¬ 1958 году ƒжон ћаккарти, родоначальник »», предложил LISP в качестве €зыка программировани€, способного обрабатывать свой собственный исходный код, рассматриваемый как нека€ структура данных (17).

«атем LISP по€вилс€ во многих —јѕ–-системах, основанных на DWG. ¬ 1985 году Autodesk включил в AutoCAD созданную ƒэвидом Ѕетцем (18) бесплатную версию ’LISP, и сегодн€ она всЄ ещЄ работает (19).

Ќа arxiv.org/pdf/2104.12871 вы можете загрузить 12-страничную статью ћелани ћитчелл ЂWhy AI is Harder Than We Thinkї.


—сылки

1.   https://www.entrepreneur.com/article/377766

2.   http://blog.piekniewski.info/

3.   M. L. Minsky. Computation: Finite and Infinite Machines. Prentice-Hall, p. 2, 1967 (cited by Mitchell)

4.   https://arxiv.org/abs/2104.12871

5.   https://www.scientificamerican.com/article/how-the-computer-beat-the-go-master/

6.   https://www.healthnewsreview.org/2017/02/md-anderson-cancer-centers-ibm-watson-project-fails-journalism-related/

7.   https://www.technologyreview.com/2020/08/22/1007539/gpt3-openai-language-generator-artificial-intelligence-ai-opinion/

8.   Hubert L Dreyfus. A history of first step fallacies. СMinds and MachinesТ, 22(2):87Ц99, 2012 (cited by Mitchell)

9.   Elon Musk @elonmusk
@BLKMDL3 Haha, FSD 9 beta is shipping soon, I swear! Generalized self-driving is a hard problem, as it requires solving a large part of real-world AI. DidnТt expect it to be so hard, but the difficulty is obvious in retrospect. Nothing has more degrees of freedom than reality.
3 июл€ 2021

10.   G. Marcus. Innateness, Alphazero, and artificial intelligence. arXiv:1801.05667, 2018 (cited by Mitchell)

11.   S. Gustin. IBMТs Watson supercomputer wins practice Jeopardy round. СWiredТ, 2011 (cited by Mitchell)

12.   J. Patterson and A. Gibson. Deep Learning: A PractitionerТs Approach. OТReilly Media, p. 231, 2017 (cited by Mitchell)

13.   https://futurism.com/kurzweil-claims-that-the-singularity-will-happen-by-2045

14.   https://techcrunch.com/2020/06/24/biased-ai-perpetuates-racial-injustice/

15.   —айлоны. ¬икипеди€

16.   https://chromeunboxed.com/new-chromebook-emoji-and-picker-2021

17.   http://jmc.stanford.edu/

18.   https://github.com/dbetz/xlisp

19.   https://blogs.autodesk.com/autocad/autocad-open-source-project-for-autolisp/


„итайте также:


¬акансии:

јктуальное обсуждение

RSS-лента комментариев

ƒавид Ћевин
ƒавид Ћевин
ќт редактора: ѕромышленный интернет пива, или судьба инноваций
ѕроект ЂЌародное —јѕ–-интервьюї

—лучайна€ стать€:

isicad Top 10

—амые попул€рные материалы

   ‘орумы isicad:

isicad-2010 isicad-2008
isicad-2006 isicad-2004

ќ проекте

ѕриглашаем публиковать на сайте isicad.ru новости и пресс-релизы о новых решени€х и продуктах, о проводимых меропри€ти€х и другую информацию. јдрес дл€ корреспонденции - info@isicad.ru

ѕроект isicad нацелен на

  • укрепление контактов между разработчиками, поставщиками и потребител€ми промышленных решений в област€х PLM и ERP...
ѕодробнее

»нформаци€ дл€ рекламодателей


¬се права защищены. © 2004-2021 √руппа компаний «Ћ≈ƒј—»

ѕерепечатка материалов сайта допускаетс€ с согласи€ редакции, ссылка на isicad.ru об€зательна.
¬ы можете обратитьс€ к нам по адресу info@isicad.ru.