Анализ

Искусственный интеллект должен перезимовать, чтобы подрасти

Forbes опубликовал статью, в которой эксперты рассуждают о современном состоянии внедрения бизнесом искусственного интеллекта (ИИ). Заголовок статьи гласит: «Искусственный интеллект нуждается в перезагрузке» (Artificial Intelligence Needs To Reset).

Посмотрим, как выглядит сказанное в статье экспертами. В том числе поищем главное в этой теме через призму шаблона оркестровки, который нацелен на выявление ключевых моментов в контексте, убирая второстепенные детали для регулирования уровня сложности рассуждений и откладывая эти детали для дальнейших этапов анализа.

Тема искусственного интеллекта очень популярна сегодня. Несмотря на то, что выданные обещания и проспекты еще не стали всеобъемлющей силой, присутствие ИИ в бизнес среде заметно.

AI_stat_2017

Однако, в среде исследователей и специалистов уже наблюдается осторожность по поводу будущего прогресса ИИ, основанная на изучении мнений, высказываемых в профессиональном сообществе.

Сегодня мы в середине 2018 года и все поменялось. Не на поверхности — конференция NIPS все еще сверхпопулярна, корпоративный PR все еще наполнен искусственным интеллектом во всех пресс-релизах, Илон Маск все еще обещает полностью само-управляющиеся автомобили, и Гугл продолжает продвигать слова Andrew Ng о том, что искусственный интеллект значительнее электричества. Но эта риторика начинает трещать по швам.

Filip Pieniewski, исследователь в области компьютерного зрения и ИИ

Высказывания экспертов по ИИ в социальных сетях становятся спокойнее. Пафос ожидания скорых революционных изменений от больших корпораций уступает место более сдержанным заметкам от исследовательских институтов.

Мы видим гораздо меньше твитов, восхваляющих глубокое обучение как выдающийся алгоритм, а статьи становятся менее «революционными» и гораздо более «эволюционными». DeepMind не показала ничего захватывающего дух со времен Alpha Go zero, и даже последнее было не так убедительно, учитывая неприличное количество необходимых вычислений и его применимость только к играм (см. парадокс Моравека). OpenAI был довольно тихим, его последний медиа взрыв касался агента для игры в Dota 2, который, как я полагал, должен был создать столько же шума, как и Alpha Go, но он выдохся очень быстро. Фактически, начали появляться статьи, утверждающие, что даже Google не знает, что делать с DeepMind, так как ее результаты, по-видимому, не так практичны, как ожидалось.

Filip Pieniewski, исследователь в области компьютерного зрения и ИИ

Не будем вдаваться в анализ упоминаемых здесь деталей. Интересен сам подход, который основан как на применении того же искусственного интеллекта к анализу больших данных из социальных сетей, так и на выделении экспертами некого образа, стоящего за результатами такого анализа. Образ говорит, что не все так просто с осмысленностью применения ИИ к на самом деле важным вещам.

«… корпоративный интерес к такого рода исследованиям постепенно сворачивается. Опять же, это все ранние признаки — ничто не говорится вслух, просто проявляется на уровне языка тела» .

Hessie Jones, Founder @ ArCompany

Какое же место занимает сейчас искусственный интеллект в предпринимательском мире?

Индустрия искусственного интеллекта (ИИ) сегодня находится на самой ранней стадии готовности внедрения на предприятия. ИИ очень полезен и приспособлен для исследования и помощи в разборе значительных объемов данных, однако он все еще требует участия человека в оценке полученных результатов и в последующих действиях.

Сегодня ИИ — это поддержка принятия решений, предоставляющая свои находки бизнесу для последующих выводов. На следующей фазе AI, которая автоматизирует действия на основе данных, есть дополнительные проблемы, которые еще нужно разрешить, связанные с предвзятостью, объяснимостью, конфиденциальностью, разнообразием, этикой и моделями непрерывного обучения.

Karen Bennet, Principle Consultant @ ArCompany

Само слово интеллект говорит о выборе между опциями, вариантами: снова нам в помощь приходит полезный словарь. Работает этимология слова, ничего личного. Следовательно, интеллект является указателем на экспертно — рационалистическую деятельность, белый сектор шаблона оркестровки.

Суть рациональной (экспертной) точки зрения в каждом контексте (согласно философии оркестровки) всегда одинакова — накопление опыта и выработка логически разумных вариантов для последующего сравнения и выбора из них хорошего решения. Хорошее решение определяется как тот вариант, который выигрывает с позиции оптимальности, то есть в результате сравнения всех доступных для анализа вариантов по количественным значениям некой метрики.

Снова наш полезный словарь помогает увидеть, что рациональность по своей этимологии означает ровно то же самое: сравнение количественных величин путем непосредственного выяснения того, сколько раз одна из этих величин помещается в другой.

Научный подход, конечно же, дает другое определение рациональности: разумность, противоположность иррациональности. Оставим это поле боя профессиональным философам. Нет задачи кого-то в чем-то здесь убедить. Желание обязательно выиграть — это тоже проявление все той же рациональности. Оркестровке же это категорически противопоказано 🙂

Оркестровка по своей сути и своему предназначению не является научным подходом (в том виде, как его описал Френсис Бекон), поэтому не обязана следовать его канонам. Если важное слово своей этимологией никак не подтверждает тот образ, который почему-то (по какой-то традиции) ассоциируется с неким принятым смыслом этого слова, мы не используем этот смысл в своих рассуждениях. Как бы ни огорчались при этом другие люди. Так, например, мы не считаем разумность смыслом слова рациональность. (Хотя, понимая под разумностью здесь не разум вообще, а нижний, рациональный разум, манас, можно найти и в этом понятии кое-что подходящее. Не будем так делать для простоты изложения идеи и для избегания возможных священных войн 🙂 )

Критерий правильности такого подхода в образной методике в чем-то похож на тот, который использует рациональная наука:
если предсказания теории позволяют найти ее последователю новые возможности, то с этой теорией в образном смысле все хорошо.

Институт статистических проверок и основанного на них доверия может быть бесполезен там, где речь идет о поиске смысла и новых возможностей, а не о проверке гипотез и получении материальных результатов. Новые возможности часто уникальны, а в таком случае статистика бессильна.

Вернемся к теме искусственного интеллекта. С учетом вышесказанного, с точки зрения теории оркестровки становится неудивительным тот факт, что ИИ лучше всего проявляет себя как раз в области экспертно-рациональных действий. Причем он больше идеален в подготовке вариантов для решения, но не в самом выборе (принятии) этого решения. И это не «все еще» так, как формулирует Карен Беннет, а похоже на важную принципиальную особенность существования ИИ в целостном мире людей.

Концепция ИИ проста, к тому же алгоритмы становятся более умными, переваривая все больше и больше реальных данных, однако возможность объяснить полученные решения становится чрезвычайно сложной. Данные могут постоянно меняться, а модели ИИ требуют фильтров для предотвращения неправильной маркировки, например, изображение черного человека, помеченного как горилла, или панда, обозначаемая как гиббон. Предприятия, полагающиеся на ошибочные данные для принятия решений, приидут к неправильным результатам.

Karen Bennet, Principle Consultant @ ArCompany

Принятие решения базируется на объяснении мотива, на котором был сделан выбор. Без этого решение выпадает из целостной системы контекста, в котором оно принимается. У сложных систем ИИ с этим пока есть проблемы.

Если предприниматель не понимает мотивацию тех решений, которые предлагают эксперты из его команды, то с большой вероятностью он не будет вкладывать в реализацию этих решений своего времени и ресурсов.

На данный момент самые яркие успехи ИИ касаются автоматизированного контроля. В основном здесь нужно делать что-то «как обычно», следуя выявленному и утвержденному алгоритму, но иногда требуется останавливать этот процесс, если что-то пошло не так (полезный словарь говорит, что слово контроль в своем оригинальном значении подразумевает именно это).

Почему так получается? Принцип следования заданной последовательности инструкций — это первая фаза компьютерного интеллекта, позволившая описать и автоматизировать рутинные процессы. Принцип нейронных сетей внес элемент не-только-последовательной рациональности, реализовавшей накопление опыта на базе компьютерных технологий. Похоже, что ничего принципиально нового к этому списку из двух фаз пока не добавилось. Накопленный нейронной сетью опыт применяется все тем же логическим путем: выбором на основе сравнения количественных показателей. А самый простой и безопасный выбор сводится к да-нет в виде: да: продолжаем понятный нам и признанный полезным процесс, или нет: останавливаем его. Остановка процесса обычно более безопасна, чем его работа, поэтому автоматизированное решение остановиться воспринимается владельцами системы принципиально спокойно. Автоматизированный контроль а-ля ИИ, он чаще всего такой.

Полезность важных действий часто оценивается людьми на уровне, выходящем за рамки рациональности.

Анализ обсуждений и новостей об «ИИ» в сочетании с «этикой» раскрывает все более серьезную обеспокоенность проблемой, когда технология ИИ может нанести социальный ущерб, который будет испытывать человеческую совесть и ценности.

AI_and_ethics

Как мы обнаруживаем чувствительные поля данных и анонимизируем их, охраняя важные функции набора данных? Можем ли мы в кратчайшие сроки использовать синтетические данные в качестве альтернативы? Вопрос, который нам нужно задать себе при создании алгоритма: какие поля мы требуем для достижения желаемых результатов? Кроме того, какие параметры мы должны создать для определения «справедливости» в моделях, если они относятся к разным людям по-разному? И если да, то почему? Как мы постоянно следим за этим в наших системах?

Karen Bennet, Principle Consultant @ ArCompany

Карен Беннет задает рациональные версии вопросов, касающиеся этической стороны применения ИИ в бизнесе. Такую же работу следует совершать и с не-только-рациональных точек зрения предприятия, таких как предпринимательство и бизнес-лидерство.

ИИ проделал долгий путь, но ему все же нужно больше времени, чтобы созреть. В мире растущей автоматизации и преднамеренного прогресса в направлении увеличения возможностей когнитивных вычислений предстоящая зима ИИ предоставляет бизнесу необходимое время для определения того, как ИИ вписывается в их организацию и какие проблемы она хочет решить. Ожидаемые последствия от ИИ необходимо решать в политике, управлении и его воздействии на отдельных лиц и общество.

Hessie Jones, Founder @ ArCompany

Что же можно добавить в конце? Переход от осени к зиме в контексте ИИ на образном плане также говорит о переходе от рациональности осенних подсчетов, количественных оценок полученных урожаев, сравнений с задуманным и предполагавшимся к зимней теме общего смысла, новых взглядов на горизонты целостного развития и общих направлений движения на следующем круге.

Важно иметь ввиду, что зимний тип мышления отличается от осеннего интеллектуально-рационального. Перезагрузка, упоминаемая в заголовке статьи, в первую очередь касается мышления и принципов построения картин мира. Такие работы, например, как «Высокопродуктивная этика» и «Холономика», сфокусированные на не-только-рациональных принципах лидерства, предпринимательства и целостного взгляда на мир, судя по всему, станут очень востребованными.

Согласно принципу фрактальности, все жизнеспособные контексты принципиально устроены схожим образом. Поэтому целостное понимание рационального взгляда на мир — очень хорошая основа для понимания и других типов мышления.

Однако подобие не означает равенство. Перезагрузка своих навыков в новый контекст и в новый принцип мышления обязательно потребуется. Развитие потребует если не полноценного переключения в новый тип мышления, то хотя бы понимания его отличий от предыдущего доминантного типа с активной тренировкой и практикой взаимодействия с ним.

Рациональное мышление при этом никуда не уйдет, оно всегда будет хорошей основой для правополушарных практик, призвание которых состоит в обнаружении новых возможностей для развития. Возможностей, которые потом подхватит рациональность и постарается довести до полезных ощутимых результатов.

Мир меняется, и это очень интересно.

Добавить комментарий

Заполните поля или щелкните по значку, чтобы оставить свой комментарий:

Логотип WordPress.com

Для комментария используется ваша учётная запись WordPress.com. Выход /  Изменить )

Google photo

Для комментария используется ваша учётная запись Google. Выход /  Изменить )

Фотография Twitter

Для комментария используется ваша учётная запись Twitter. Выход /  Изменить )

Фотография Facebook

Для комментария используется ваша учётная запись Facebook. Выход /  Изменить )

Connecting to %s