Объявление

Свернуть
Пока нет объявлений.

Естественные нейронные сети

Свернуть
X
  • Фильтр
  • Время
  • Показать
Очистить всё
новые сообщения

  • Естественные нейронные сети

    Данный топик "отпочковался" от топика "Модельное мышление"

    В ходе обсуждения, участники постоянно отклонялись от темы предложенной автором и переходили на обсуждение жизнедеятельности нейронов и механизмов самоорганизации нейронных сетей. Что говорит об актуальности данного вопроса и необходимости создания отдельной темы.

    Наиболее яркие посты на мой взгляд были:

    Сообщение от kenkokan Посмотреть сообщение
    Сообщение от SVGVGS Посмотреть сообщение
    Давайте рассуждать. Из чего состоит мозг? Из нервных клеток – нейронов.
    Маленькое уточнение, меняющее весь оптимизм редукционистов...
    Нейрон - это одноклеточный организм.
    Разницу улавливаете? Нюхайте носиком воздух сильнее мой юный друг.
    Нейрон не передает и не создает никакие модели.
    Он ест, дышит, пьет, писает и какает и коммуницирует с другими представителями своего сообщества, передает себя в следующие поколения (спаривается), получает оргазм, иногда убивает себе подобных и ставит им памятники в виде клеток-теней.
    Не верите?
    Купите себе оптический микроскоп (лучше инвертированный). Выделите отдельные нейроны, поместите их в питательную среду и смотрите что они будут делать))))
    Сообщение от Эр-И Посмотреть сообщение
    Современная точка зрения на мозг в данный момент одна: мозг - это биологическая нейронная сеть (плюс глия, как считается, выполняющая вспомогательные функции). Популярные статьи по этой теме или учебники мне неизвестны. Как я знаю, есть популярные книги учёных-популяризаторов, но я ничего не читал, порекомендовать не могу. Вообще, совмещая "биологические" описания мозга (с исследованиями функций его отдельных зон и отделов) и информацию по искусственным нейросетям, вы сможете разобраться самостоятельно. Разрозненной информации много, а уровень специалиста вам, как я понимаю, не нужен. Но то, что вы сейчас пишете - это далеко от науки.

    Может быть, вот это стоит почитать: Приложения нейронных сетей.
    Сообщение от kenkokan Посмотреть сообщение
    Сообщение от КомАН Посмотреть сообщение
    Сообщение от kenkokan Посмотреть сообщение
    ...до тех пор, пока он не перестанет думать про то, что нейрон это простая клетка. До тех пор пока он не поймет, что он (математик) в глобальном смысле всего лишь инструмент (носитель) для обеспечения жизни конгломерата живых организмов проживающих в его черепной коробке. Что "он" всего лишь то, что эти организмы создали совершенно не спрашивая носитель хочет он этого или нет.
    Хорошая гипотеза. Выглядит слегка ненаучно, но мне нравится Почему-то сразу муравьи вспоминаются Такую мысль трудно подтвердить, но еще труднее опровергнуть. А хороша она тем, что вселяет некоторый оптимизм. Правда, отправляет на пенсию всю фундаментальную науку. Ну да, и Бог с ней - она и так уже в коматозном состоянии.

    kenkokan, Вы уже не первый раз говорите о поведении нейронов в питательной среде. Нет у меня такой возможности: микроскоп есть, но за нейронами далеко лезть. Вы бы не могли ссылочку кинуть или рассказать в нескольких словах?
    А мне напоминает амеб, инфузорий и коловраток, только более высоко организованных и при глобальном объединении способных творить чудеса.
    У меня нет своего видео, к сожалению не снимал. В общих чертах что-то такое происходит. Частная жизнь нейрона. Часть 1
    Продолжение фильма: Частная жизнь нейрона. Часть 2

    Сообщение от Эр-И Посмотреть сообщение
    Сообщение от kenkokan Посмотреть сообщение
    Связи есть, постоянно перестраивающиеся, то есть они как бы есть, но их как бы нету. Нет стабильности, там сплошная изменчивость. Сеть - метафора.
    Изменчивость совсем не "сплошная" - иначе интерфейсы были бы невозможными ни в каком виде. Но и в любом случае, изменчивость - это не препятствие быть нейросетью. Изменчивость также может быть проявлением нейросетевого алгоритма, по которому образуются новые связи. Вопрос только в том, что этот алгоритм, видимо, не может быть написан (понят) человеком, ввиду его сложности.
    Сообщение от mnr Посмотреть сообщение
    Есть еще продолжение исследования другими людьми:
    http://ailab.ru/investigation/bionik...-struktur.html
    Сообщение от володя Посмотреть сообщение
    От Близнец .

    << Внутриклеточные процессы не наблюдаемы из вне. Причем, принципиально не наблюдаемы. >>

    Связь Наблюдаемости и Управляемости определяется принципом дуальности, сформулированным Р. Калманом. ""Если система полностью управляема, то сопряжённая система полностью наблюдаема и наоборот."" Биологическая клетка , как ОБЪЕКТ управления , обладает собственным гомеостазом , другими словами полностью управляема , а значит и наблюдаема .

    <<Даже, если мы узнаем про клетку все, все-равно объективные методы наблюдения конкретной клетки будут ограничены в силу нелинейности с стохастичности внутриклеточных процессов.>>

    Понятия управляемости и наблюдаемости можно распространить на любые управляемые системы (бесконечномерные и конечномерные, динамические, стохастические системы, автоматы конечные и др.).
    * далее, как мне кажется, участники неправильно трактовали свойство наблюдаемости. Система полностью наблюдаема с точки зрения того кто ею полностью управляет. Т.е., в данном случае, наблюдателем/управленцем, если можно так выразиться, будет клеточный гомеостаз.

    Итак, современные теории нейронных сетей рассматривают нейрон исключительно как автомат, исключая из рассмотрения клеточный гомеостаз. Моделируемые нейроны не могут образовывать новые связи, разрывать старые, физически премещаться и погибать. С такой точки зрения, происходит изменение причинно-следственной связи процесса обучения нейронна. Нейроны обучаются не для того чтобы существовать, а существуют для того чтобы обучаться. Другими словами, входящие в моделируемый нейрон сигналы имеют целевой смысл и становятся причиной обучения, в то время как для живого нейрона электрический импульс всего лишь средство выживания:

    http://propaganda-journal.net/143.html
    Как отмечают разработчики, сначала можно было подумать, что нейроны в пробирке беспорядочно производят электрические импульсы, которые обычно называют потенциалом действия. Без внешней стимуляции такая группа нейронов через несколько месяцев погибнет, поясняют исследователи.
    Таким образом, с точки зрения моделируемых нейронных сетей сложно объяснить способ самоорганизации естественных нейронных сетей, а также дать внятный ответ на вопрос кто/что управляет сигналами которые обучают нейронную сеть? Мистическое сознание?

    Если не отбрасывать клеточный гомеостаз, то вопрос о том кто управляет естественной нейронной сетью становиться очевидным: естественная нейронная сеть - это самоорганизующаяся колония живых клеток, цель которых задается гомеостазом клеток и колонии.

    На вопрос, каким образом нейроны самоорганизовываются, я предлагаю ответить следующим образом.

    Для начала рассмотрим процесс фотосинтеза в растениях. Растениям не достаточно иметь в распоряжении только воду, минералы и углекислый газ. Нужен еще и свет, как источник энергии запускающий реакцию синтеза. Корректно ли говорить, что свет - сигнал растениям синтезировать органические вещества?

    В нейронах происходит реакция расщепления глюкозы - гликолиз. Можно предположить, что электрический сигнал, так же как свет при фотосинтезе, напрямую или опосредованно необходим для запуска этой реакции. Это, своего рода, "электрогликолиз".

    Таким образом, внешний электрический заряд получаемый через дендриты, необходим нейрону для поддержания его жизнедеятельности. Если накопленного заряда (или освобожденной гликолизом энергии) становится много, нейрон делиться зарядом с другими нейронами испуская электрический импульс в аксон. Чисто условно, назовем электрический заряд "пищей". Если "пищи" не хватает, нейрон вынужден "искать" ее себе, присоединяясь к аксонам других нейронов свободными дедритами. Если свободных дендритов нет, освобождаются редкоиспользуемые. В критических ситуациях, нейрон может даже полностью "отцепиться" и уйти в "свободное плаванье" в поисках нового "пастбища". Возможно, что разница потенциалов между "сытым" аксоном и "голодным" дендритом помогает дендриту найти кратчайший путь к источнику "пищи". Таким образом формируется естественная нейронная сеть.

    Нейроны тянутся к электрическим сигналам, так же как листья тянутся к свету.

    Так же, можно привести приблизительную аналогию с самооранизацией человеческого общества. Представьте себе что человек - нейрон. Как люди заводят новые знакомства? Как забывают старых друзей? Долго не общались - связь утерена, стало скучно - с кем-то познакомился, появилась интересная информация - поделился с друзьями :)

    Отличие моделируемых нейронных сетей от естественных в том что моделируемые сети строго упорядочены и их элементы обладают фиксированным количеством связей, в то время как естественные - хаотичны, динамичны как по структуре так и по количеству связей между нейронами. Естественные нейросети самоорганизующиеся, что, как я полагаю, делает их существенно эффективнее чем моделируемые, кроме того им не нужно задавать целеполагание, оно у них определяется гомеостазом клетки и всей колонии.
    Последний раз редактировалось Papa Carllo; 06.05.2015, 09:12 AM.

  • #2
    Re: Естественные нейронные сети

    Сообщение от kenkokan Посмотреть сообщение
    Есть две составляющие - внутренняя активность нейрона и спайк. Эти показатели взаимосвязаны.
    Нейроны действительно тянутся к электрической активности. Особенно те, которые уже имеют специализацию и долго с ней живут.
    Но тут интересны "молчащие" нейроны, которые вообще и исключительно зависимы от других структур. Они никуда не тянутся и включаются только при перегрузке структур за которые они отвечают. Но уж если включаются, то мало не покажется...
    Потом опять замолкают, сидят тихо и не вылазят. Не лезут к другим за питанием...
    Альтруисты?
    Я вижу три возможных варинта ответа:
    1) это "неправильные пчелы", т.е. заболевшие/вырожденные нейроны, такие нейроны должны вскоре погибнуть;
    2) это мутировавшие и приспособившиеся нейроны, т.е. нейроны гомеостаз которых наследован, но отличается от обычных неронов. Тут возможны два варианта:
    - нейроны ведущие паразитический образ существования;
    - нейроны выполняющие специфические функции полезные для всей колонии в целом;
    3) это древние нейроны, от которых произошли обычные нейроны;

    Если существует несколько поколений нейронов, то возможны ветвления, т.е. существование видов\подвидов, но их функциональное значение, в итоге, сведется к одной из 3-ех групп.

    Возможно ответы на следующие вопросы помогут объяснить их природу:
    - как долго живут такие нейроны?
    - каков процент таких нейронов в различных отделах мозга различных живых существ?
    - включаются ли такие нейронны в работу гуппами по некому событию или включения происходят одиночные и спонтанные?
    - что происходит со всей колонией при включении таких нейронов? Может спец. нейроны запускают процессы оптимизации/архивации некоторых участков сети внося некий фактор нестабильности (как в природе - буря/пожар/наводнение и т.д.)? Может это нейроны работающие во время сна?
    Последний раз редактировалось Papa Carllo; 06.05.2015, 08:01 PM.

    Комментарий


    • #3
      Re: Естественные нейронные сети

      Не думаю, что один из вариантов ответов является правильным... ИМХО.

      Комментарий


      • #4
        Re: Естественные нейронные сети

        Сообщение от kenkokan Посмотреть сообщение
        ПО какому принципу он выбирает нужную комбинацию признаков понятно. Более интересны модификации его связей с другими клетками, чем сам нейрон. Они перестраиваются постоянно, хаотично. Ни кто не знает принципа, хотя он лежит на поверхности.
        Я его знаю, но об этом на форуме уже говорить не буду - это персональная значимая информация. Принцип описывается одним словом, ну, в крайнем случае двумя...)))
        Кажется мы приближаемся к пониманию тайны, о которой kenkokan не хочет рассказывать Педаль в пол, ребята!!!
        И муравьев я вспомнил не просто так: нейроны прежде всего - живые организмы. Они просто живут :) А жизнь - это прежде всего нечто неалгоритмизируемое; то, что невозможно смоделировать. И за миллионы лет эволюции нейроны научились так эффективно взаимодействовать друг с другом, что вместо того, чтобы как червяку ползти куда-то в поисках пищи, они двигают огромное и нелепое тело человека к холодильнику, который сделали люди и который наполнен продуктами, которые сделали люди.
        ОБАЛДЕТЬ!

        Комментарий


        • #5
          Re: Естественные нейронные сети

          Нейроны коммутируются, создавая на сети не сетевые структуры - модели!

          Комментарий


          • #6
            Re: Естественные нейронные сети

            Сообщение от SVGVGS Посмотреть сообщение
            Нейроны коммутируются, создавая на сети не сетевые структуры - модели!
            Вот и профессор нарисовался... Валя, Вы свою тему отстаивайте

            Комментарий


            • #7
              Re: Естественные нейронные сети

              Сообщение от КомАН Посмотреть сообщение
              И за миллионы лет эволюции нейроны научились так эффективно взаимодействовать друг с другом, что вместо того, чтобы как червяку ползти куда-то в поисках пищи, они двигают огромное и нелепое тело человека к холодильнику, который сделали люди и который наполнен продуктами, которые сделали люди.
              ОБАЛДЕТЬ!
              Да, в такое сложно поверить, но залезть в холодильник это еще пустяки :). Посмотрите на что способны самоорганизовывающиеся колонии самоорганизовыванных колоний: 10 самых грандиозных проектов человечества.

              Сообщение от КомАН Посмотреть сообщение
              А жизнь - это прежде всего нечто неалгоритмизируемое; то, что невозможно смоделировать.
              Вот тут я бы не был столь категричен, в конце концов разряжающаяся со временем батарея - чем не мотивация к выживанию? :)
              Подъехать к розетке и вставить штепсель - дело нехитрое, а что если форма розетки начнет менятся? а что если напряжение в ней начнет зависеть от погодных условий и настроения хозяина дома? и т.д. :)
              Последний раз редактировалось Papa Carllo; 07.05.2015, 12:07 AM.

              Комментарий


              • #8
                Re: Естественные нейронные сети

                Сообщение от kenkokan Посмотреть сообщение
                Не думаю, что один из вариантов ответов является правильным... ИМХО.
                Хм... что же тогда? Не уж то "памятники в виде клеток-теней"?

                Комментарий


                • #9
                  Re: Естественные нейронные сети

                  Обратите внимание, скорость и эффективность человеческой самоорганизации максимальна когда речь идеть о выживании.
                  Может пора уже ввести в школах предмет "человечествознание" и объяснять детишкам, что главная цель человечества - выжить?
                  Тем самым, эдак лет через 20, увеличив КПД всего человечества.

                  Комментарий


                  • #10
                    Re: Естественные нейронные сети

                    К сожалению, наука этим не занимается. Религия ещё как-то. Действительно, такое хрупкое и сложнейшее явление как жизнь должно охраняться всем человечеством, а покушение на неё наказываться. Иначе человечество уничтожит себя само. Когда это начнут понимать политики? :(

                    Комментарий


                    • #11
                      Re: Естественные нейронные сети

                      Почему нейрон без эл. стимуляции погибает? Пока все что нагуглил близкое к этому вопросу это описание натрий - калиевого насоса:
                      Значение натрий-калиевого насоса для жизни каждой клетки и организма в целом определяется тем, что непрерывное откачивание из клетки натрия и нагнетание в нее калия необходимо для осуществления многих жизненно важных процессов: осморегуляции и сохранения клеточного объема, поддержания разности потенциалов по обе стороны мембраны, поддержания электрической активности в нервных и мышечных клетках, для активного транспорта через мембраны других веществ (сахаров, аминокислот). Большие количества калия требуются также для белкового синтеза, гликолиза, фотосинтеза и других процессов. Примерно треть всей АТФ, расходуемой животной клеткой в состоянии покоя, затрачивается именно на поддержание работы натрий-калиевого насоса. Если каким-либо внешним воздействием подавить дыхание клетки, т. е. прекратить поступление кислорода и выработку АТФ, то ионный состав внутреннего содержимого клетки начнет постепенно меняться. В конце концов он придет в равновесие с ионным составом среды, окружающей клетку; в этом случае наступает смерть.
                      Инетересно, что свойство нейрона погибать без внешней стимуляции активно используется на ранних этапах построения естественных нейронных сетей:

                      Глава 4. Морфо- и функциогенез мозга
                      Развитие нейронов сопровождается увеличением волокнистого компонента (отростки нейронов), с помощью которого формируются синапсы. Активное образование синапсов — контактов между нервными клетками — происходит от рождения до двух лет, и их количество в этот период у детей больше, чем у взрослого человека. Для выживания нейронов при формировании синапсов важную роль играет их стимуляция. В тех из них, которые подвергаются активной стимуляции, появляются новые синапсы, и они вступают во все более сложные системы коммуникаций в коре головного мозга. Нейроны, лишенные активной стимуляции, погибают. Активный период созревания любой области мозга сопровождается гибелью большого числа нейронов (запрограммированной гибелью клеток), которые не оказались задействованными. Переизбыток синапсов связан также с тем, что многие из них выполняют сходные функции, и это гарантирует приобретение необходимых для выживания навыков. Сокращение синапсов переводит излишние нейроны в «резерв», который может быть использован на более поздних этапах развития. К семи годам их число уменьшается до уровня, свойственного взрослому. Более высокая синаптическая плотность в раннем возрасте рассматривается как основа для усвоения опыта (Марютина Т. М., 1996; Kolb В., е.а., 1997; Строганова Т. А. и др., 1998). Избыточность синапсов создает основу для формирования любых видов связей, которые имели место в видо*вом опыте. Из них далее сохранятся только те, которые необходимы для развития в конкретных условиях.
                      Последний раз редактировалось Papa Carllo; 09.05.2015, 05:24 AM.

                      Комментарий


                      • #12
                        Re: Естественные нейронные сети

                        Похоже, я был неправ когда полагал что эл. импулс - это сила которая заставляет работать натрий-калиевый насос. Натрий-калиевый насос работает в автономном режиме, обеспечиваемый энергией АТФ. В данном ролике это хорошо показано:
                        https://www.youtube.com/watch?v=6o6GCP3ROqo

                        Вопрос "почему нейрон без эл. стимуляции погибает" остается открытым. Кто-то знает овет на него?

                        И еще один интересный вопрос: переодическое превышение порогового значения суммарного эффекта потенциала действия (когда эл. сигнал передается на аксон) - это необходимое условие для нормальной жизнедеятельности нейрона или достаточно просто слабой переодической стимуляции?
                        Последний раз редактировалось Papa Carllo; 09.05.2015, 05:35 AM.

                        Комментарий


                        • #13
                          Re: Естественные нейронные сети

                          Сообщение от Papa Carllo Посмотреть сообщение
                          Система полностью наблюдаема с точки зрения того кто ею полностью управляет. Т.е., в данном случае, наблюдателем/управленцем, если можно так выразиться, будет клеточный гомеостаз. ... кто/что управляет сигналами которые обучают нейронную сеть? Мистическое сознание?
                          "Наблюдателем" за всем организмом, в том числе и за нейронной сетью, является общая генетическая программа. Обучением сети управляет сама сеть - степень активности рецепторов атоматически приводит к изменению весов связей нейронов и активирует процессы роста новых связей, в результате реакция сети изменяется - меняется поведение, "мысли", происходит адаптация под нынешние условия. А также сетью управляет генетическая программа, задающая общий "врождённый", то есть генетически детерминированный, контекст развития и сети, и всего организма.

                          Комментарий


                          • #14
                            Re: Естественные нейронные сети

                            Сообщение от Эр-И Посмотреть сообщение
                            Сообщение от Papa Carllo Посмотреть сообщение
                            Система полностью наблюдаема с точки зрения того кто ею полностью управляет. Т.е., в данном случае, наблюдателем/управленцем, если можно так выразиться, будет клеточный гомеостаз. ... кто/что управляет сигналами которые обучают нейронную сеть? Мистическое сознание?
                            "Наблюдателем" за всем организмом, в том числе и за нейронной сетью, является общая генетическая программа ... задающая общий "врождённый", то есть генетически детерминированный, контекст развития и сети, и всего организма.
                            Можете называть гомеостаз "генетической программой", если Вам так удобней, суть от этого не меняется.

                            Комментарий


                            • #15
                              Re: Естественные нейронные сети

                              Меняется. "Клеточный гомеостаз" подразумевает, что у каждой клетки может быть только своя "личная" программа и всё. Генетическая же программа подразумевает общую программу как программу клетки "в составе" организма. Из-за этого гомеостаз каждой клетки подчинён не только её личному "выживанию", но выживанию "в контексте" задач организма. Соответственно, отсутствие сигналов от должного клеточного окружения само по себе может приводить к сбоям в работе клетки.

                              Комментарий

                              Обработка...
                              X