Объявление

Свернуть
Пока нет объявлений.

Обучение нейросетей

Свернуть
X
  • Фильтр
  • Время
  • Показать
Очистить всё
новые сообщения

  • Обучение нейросетей

    Вопрос, вот, такой возник: чем объясняется способность нейронных сетей к обучению? Может быть, даже есть какая-то математика, которая объясняет существование этой способности? Буду очень признателен, если просветите :)

  • #2
    Макрофаг 2*10^-5м. Скорость ПД 0.5 м/сек. Однако этой величины по изменению скорости распространения ПД за счет сальтоторной передачи возбуждения хватило, чтоб тенденция была значимой на уровне фенотипа, что и привело к формированию Шванновских клеток и их аналогов у первичноротых. Не иначе, эфапсы были задействованы, потому как синаптическая задержка варьирует в пределах 10%, но уже в зависимости от функционального состояния астроцитов. А ещё FcR, а ещё http://molbiol.ru/forums/index.php?showtopic=579276 , а ещё селектины и N-CAM. P.S. http://neuroinfo.ru/index.php/ru/sch...=2017#Section1

    Комментарий


    • #3
      Вы о чем, Владимир? :)

      Комментарий


      • #4
        Вот модель http://polit.ru/article/2017/09/05/ps_impb/ . Там есть и стахостический резонанс и гомункулюc под названием ЦЕНТРАЛЬНЫЙ УПРАВЛЯЮЩИЙ ЭЛЕМЕНТ. Нет механизма обучения. А его и не может быть в нейронной сети, поскольку функции распределены между нейронами и глиоцитами. Глиоциты синхронизируют ПСП на интегративных нейронах, астроциты меняют величину синаптической задержки, и величину спилловера. Ассоциированная с аксональным холмиком микроглия влияет на параметры гетерезиса нейрона (на конференции доклад про это. т.е. про гетерезис, а про микроглию автор пока не упоминал). OR- рецепторы родопсинового семейства, как вы знаете, одиночный фотон, провзаимодействовав с таким рецептором в биполярной клете вызывает ПД. FcR- провзаимодействовав с целевыс гаптеном вызывает дегрануляцию базофила и освобождение гистамина, а какая ему разница что дегранулировать серотонин, дофамин, гистамин ( везикулы-то образуются в аппарате Гольджи, а есть ли опись о внутреннем содержимом - ещё тот вопрос)? Селектины, сиглектины, CAM - могут запустить пролиферацию в предшественниках олигодендроцитов и микроглиоцитах, а дальше - популяционная динамика и селекция клонов. Имеется 26 различных популяций олигодендроцитов, не свидетельствуеть ли это о фунуиональной нагрузке, и вызванной ей специализацией клеточных популяций. Нокаут по rag1 (гену, принимающем участие в реаррандировке иммуногобулиновых генов) снижант мнемонические способности у мыши в водном лабиринте Морриса, а трансплантация нативных лимфоцитов востанавливает мнемонические способности. Всё это не учитывается нейросетевыми моделями, и получается как у Хоттабыча - "телефон из чистого мрамора"(с). Если в нейросетевую модель водят "учителя", то этого учителя пора разложить на составляющие и посмотреть, на реконструкции, всё ли мы понимаем?

        Комментарий


        • #5
          Нет, Вы слишком хорошо обо мне думаете - глубоко копаете. Кроме того, то, что Вы говорите, скорее из области гипотез. Я имел в виду фундаментальные причины обучаемости. Есть структура, есть вход и выход. И есть возможность привести эту структуру в состояние, в котором при наличии на входе картинки содержащей распознаваемый объект, она будет генерировать на выходе один и тот же сигнал. Даже если этот объект имеет незнакомый ракурс, какие-то новые детали, а какие-то будут утеряны. Вот я и спрашиваю, как это возможно? Почему?!

          Комментарий


          • #6
            Сообщение от КомАН Посмотреть сообщение
            Я имел в виду фундаментальные причины обучаемости.
            По ссылке есть вложение, там статья, в ней есть глава «Недетерминированные алгоритмы» — в том числе о нейронных сетях.

            Комментарий


            • #7
              Михаил, а Вы могли бы не отсылать к длинному тексту на другую тему, а ответить на мой вопрос самыми общими словами?

              Комментарий


              • #8
                То, о чём вы пишете — это способность сетей к обобщению. Умение обобщать — прямое следствие общего принципа устройства всех нейронных сетей вообще, и в общем случае чем сложнее сеть, тем лучше она может обобщать. Поэтому чтобы понять суть обобщения, необходимо и достаточно просто понять общий принцип работы нейронных сетей — обобщение само собой станет интуитивно понятным.

                Проблема в том, что логика работы нейронных сетей отличается от «последовательной» человеческой логики суждений, поэтому первоначально у всех понимание работы сетей вызывает затруднения и кажется, что в нейронных сетях должны быть некие специфические механизмы или особенности, которые ту же способность к обобщению обуславливают. Но их нет.

                Поэтому я вам и предлагаю прочитать главу, где работа нейронных сетей, надеюсь, описана в нужном ракурсе — с упором на непонятное в них. Далее есть части «Мышление» или «Искусственный интеллект», соответственно продолжающие тему на другом уровне.
                ***

                Иными словами, нельзя отдельно объяснить способность к обобщению, но можно понять общий принцип работы нейронных сетей и, как следствие, понять и все их способности сразу. Собственно, это также и «способности» нашего мозга, так как мы тоже мыслим «сетью».
                Последний раз редактировалось Эр-И; 26.09.2017, 08:58 PM.

                Комментарий


                • #9
                  "а Вы могли бы не отсылать к длинному тексту на другую тему, а ответить на мой вопрос самыми общими словами?" Образ дробится на множество значимых характеристик образа, каждая характеристика образа идентифицируется как ключ-замок. Если это желтые ботинки Лоренца - то подходит, если немного заляпаны грязью, то - тоже подходит, потому как форма, и размер, и запах - соответствуют. Так хеморецепторы узнают макромолекулы, рецептор - маленький, взаимодействует с небольшой площадью корпускулы, когда рецепторов много, и каждый узнает свой участок на макромолекуле, то корпускула идентифицирована. Нервная система есть надстройка над этим древним параллельным способом вычислений, чтоб сложные объекты удобней и быстрей было дробить на характеристики.

                  Комментарий


                  • #10
                    Сообщение от Эр-И Посмотреть сообщение
                    То, о чём вы пишете — это способность сетей к обобщению. Умение обобщать — прямое следствие общего принципа устройства всех нейронных сетей вообще, и в общем случае чем сложнее сеть, тем лучше она может обобщать. Поэтому чтобы понять суть обобщения, необходимо и достаточно просто понять общий принцип работы нейронных сетей — обобщение само собой станет интуитивно понятным.

                    Проблема в том, что логика работы нейронных сетей отличается от «последовательной» человеческой логики суждений, поэтому первоначально у всех понимание работы сетей вызывает затруднения и кажется, что в нейронных сетях должны быть некие специфические механизмы или особенности, которые ту же способность к обобщению обуславливают. Но их нет.
                    Вы заменили "способность к обучению" на "умение обобщать". Это не ответ. Просто меняется форма вопроса.

                    Вы отрицаете наличие специфических механизмов. А может есть какие-то другие? Не специфические...

                    Комментарий


                    • #11
                      Сообщение от VladimirKox Посмотреть сообщение
                      Образ дробится на множество значимых характеристик образа, каждая характеристика образа идентифицируется как ключ-замок. Если это желтые ботинки Лоренца - то подходит, если немного заляпаны грязью, то - тоже подходит, потому как форма, и размер, и запах - соответствуют. Так хеморецепторы узнают макромолекулы, рецептор - маленький, взаимодействует с небольшой площадью корпускулы, когда рецепторов много, и каждый узнает свой участок на макромолекуле, то корпускула идентифицирована. Нервная система есть надстройка над этим древним параллельным способом вычислений, чтоб сложные объекты удобней и быстрей было дробить на характеристики.
                      Внутри сети нет никаких характеристик или образов. Они в наших головах, а в сети - числа или амплитуды. Вот, если спросить, как работают часы, и вам начнут рассказывать про шестеренки, анкеры и пружинки, про стрелки и циферблат, то это, наверно, неправильно. Правильно, на мой взгляд, было бы начать с объяснения работы маятника. В рассматриваемом вопросе есть такой "маятник"?

                      Комментарий


                      • #12
                        Сообщение от КомАН Посмотреть сообщение

                        Вы заменили "способность к обучению" на "умение обобщать". Это не ответ. Просто меняется форма вопроса.

                        Вы отрицаете наличие специфических механизмов. А может есть какие-то другие? Не специфические...
                        Обучение — это всего лишь способ приспособить нейронную сеть к конкретным условиям (данным, задачам), так как угадать необходимое устройство сети сразу практически невозможно. Или, если условия меняются, функция обучения поможет сети постоянно им соответствовать. Иначе говоря, нейронная сеть умеет обобщать и без обучения, просто потому, что она — нейронная сеть, но чтобы сеть могла делать некие конкретные обобщения как раз и нужно обучение. Поэтому поняв, как работает нейронная сеть, вы поймёте и обучение, и обобщение.

                        В рекомендованной ранее главе есть схематичный рисунок нейронной сети, для визуального образца его вполне достаточно. Далее есть часть «Мышление», и лучше, чем там описана суть работы нейронной сети, мне здесь в посте всё равно не написать.


                        Комментарий


                        • #13
                          "Внутри сети нет никаких характеристик или образов." Эта та сеть, которая в вакууме, со сферическим конем вкупе? "Правильно, на мой взгляд, было бы начать с объяснения работы маятника. В рассматриваемом вопросе есть такой "маятник"?" Да, есть https://en.wikipedia.org/wiki/Cell_signaling Унифицированный, гибкий как обрабатывающие центра (см. машиностроение), с хорошим програмным обеспечением. Я бы назвал его не "маятник", а процессор, в многоядерном вычмслительном комплексе. Он есть и в нейронах, и в глии, и в гепатоцитах с остеокластами.

                          Комментарий


                          • #14
                            КомАН! Нейрон отличается от других клеток тем, что может дотянуться до отдаленного источника сигнала и передать сигнал на более удаленное расстояние. То, что клетки обмениваются между собой информацией - не секрет, и у трихоплакса обменимаются, и в монослойной культуре клеток - тоже обменимаются. Дело в том, что нейроны обмениваются информацией не только между собой, но и с близко расположенными к ним клеткам - глией. Если астроциты, олигодендроциты, дендритные клетки микроглии приобрели отросчато-звезчатую форму, то это похоже на повторение эволюционной тенденции приведшей к формированию нейрона. Но кроме отросчато-звезчатых клеток глии есть и подвижные элементы - мобильная глия и предшественники "олигодендроцитов". (Заметьте, что клетки расположенные вблизи нейронов специализировалий на обработке сигналов поступающих от нейронов, да-да, вроде как финансовые структуры, обслуживающие экономические предприятия, и гос.аппарат отстаивающий сбалансированность экономики. Мне недавно один д.б.н. сказал: "Нейрон - главный, а глиоцит - вспомогательный!", а я у него спросил: "Ну, и кто из них лейтенант, а кто - генерал? Кого назначим майором?") Вы могли убедиться, посмотрев механизмы сигналинга, что среди них нет механизма, сопоставимого по лабильности с его электрофизиологической активностью. Такой механизм есть эндоплазматическом ретикулюме и аппарате Гольджи - контроль качества фолдинга протеинов и полисиалирование, достаточно протеолиза по трансмембранному домену, и гликозилтрансфераза, перейдя в растворимую форму(оторвавшись от мембраны) начинает синтезировать "атипичные" гликаны. Т.е. гликаны - вполне типичные, и сигнализируют микроокружению нейрона, что функциональное состояние этого нейрона изменено из-за такого-то воздействия. После этого, цепь событий развивается на межклеточном уровне. Подвижная микроглия или ПОДЦ могут прилипнуть к нейрону, с измененным функциональным состояние (что вызовет сальтоторную передачу возбуждения на этом нейроне): они могут выбросить полиамины( заклеивающие ионные каналы на нейроне. через взаимодействие с ацетилнейраминовой кислотой) их действие может быть локальным, подобно нитроксиду; они могут начать пролиферироровать( подобно идиотипспецифическим лимфоцитам); и, наконец, организовать прунинг(т.е. отрезать синапс, если есть такая необходимость ради блага особи). Как я уже Вам сообщал, у глии есть и более мощные средства вмешательства в работу нейронов - OR и FcR которые могут вызвать потенциал действия на полученный сигнал ( это - рефлексивный, или - активный нейрон по Ю.И.Александрову?), они могут вызвать дегрануляцию аминсодержащих везикул. Есть ещё и V-set, а их около 300 000 вариантов. Гипотез здесь много, и их нужно проверять и дискредитировать по результатам проверки, но и фактов, подтвержденных публикацией в рецензированных изданиях( а значит - проверенных и перепроверенных) - достаточно. Из этого следует, что уповать на ВСЕМОГУЩИЙ НЕЙРОН (вроде "Брюс всемогущий") - это нечто вроде карго культа. Не прилетит самолет с провизией, несмотря на то, что деревянные "антены" внешне похожи на настоящие, и не будет искусственного интеллекта подобного природному, даже если есть сети, и их обзывают нейронными. P.S. Путанница в терминах приводит к путаннице в головах. http://www.stihi-rus.ru/1/chukovskiy/19.htm Наш достопочнимый МинОбраз.иН массово переименовал институты в университеты (а MIT - не парится и не переименовывается) в результате чего произошло смешение задач стоящих перед ученым и перед инженером. Если ученый описывает объективную реальность, какова она есть, то инженер - из имеющихся описаний делает полезные поделки. Теперь одни говорят - "ваши поделки не похожи на прототип!", а другие - "ну, и каков же экономический эффект от ваших исследований?". P.P.S. Я не поеду на конференцию http://neuroinfo.ru/index.php/ru/mcont . Председатель программного комитета назвал моё изложение сумбурным. Что ж, если ко мне есть вопросы - постараюсь на них ответить( не стесненный единством времени и места, и без отрыва от личного ПЗУ) , если смогу( живые объекты - очень сложные устройства). Мне - не понятно, какие вопросы требуют пояснения.

                            Комментарий

                            Обработка...
                            X