Xreferat.com » Рефераты по информатике и программированию » Психологическая интуиция искусственных нейронных сетей

Психологическая интуиция искусственных нейронных сетей

признаков (методы непараметрической статистики) [18].

Методы, основанные на предположениях о классе решающих функций (методы, использующие в качестве решающего алгоритма минимизацию функционала риска или ошибки) [6], [15],[36], [41], [94].

Логические методы, базирующиеся на аппарате алгебры логики и позволяющие оперировать информацией, заключенной не только в отдельных признаках, но и в сочетании их значений [49].

Лингвистические (структурные) методы, основанные на использовании специальных грамматик, порождающих языки, с помощью которых может описываться совокупность свойств распознаваемых объектов [93].

Группа экстенсиональных методов включает в себя:

Метод сравнения с прототипом, применяющийся когда распознаваемые классы отображаются в пространстве признаков компактными геометрическими группировками.

Метод k-ближайших соседей, в котором решение об отнесении объекта к какому-либо классу принимается на основе информации о принадлежности k его ближайших соседей.

Алгоритм вычисления оценок (голосования), состоящий в вычислении приоритетов (оценок сходства), характеризующего «близость» распознаваемого и эталонных объектов по системе ансамблей признаков, представляющей собой систему подмножеств заданного множества признаков [51],[52],[53].

При сравнении экстенсиональных и интенсиональных методов распознавания образов в [47] употребляется следующая аналогия: интенсиональные методы соответствуют левополушарному способу мышления, основанному на знаниях о статических и динамических закономерностях структуры воспринимаемой информации; экстенсиональные же методы соответствуют правополушарному способу мышления, основанному на целостном отображении объектов мира.


1.5 методы восстановления зависимостей


Наиболее широко в данной работе будут рассмотрены методы построения психодиагностических методик на базе интенсиональных методов, основанных на предположениях о классе решающих функций. Поэтому рассмотрим их более подробно.

Основным достоинством методов, основанных на предположении о классе решающих функций является ясность математической постановки задачи распознавания как поиска экстремума. Многообразие методов этой группы объясняется широким спектром используемых функционалов качества решающего правила и алгоритмов поиска экстремума. Обобщением данного класса алгоритмов является метод стохастической аппроксимации [94].

В данном классе алгоритмов распознавания образов содержательная формулировка задачи согласно [29] ставится следующим образом:

Имеется некоторое множество наблюдений, которые относятся к p различных классов. Требуется, используя информацию об этих наблюдениях и их классификациях, найти такое правило, с помощью которого можно было бы с минимальным количеством ошибок классифицировать вновь появляющиеся наблюдения.

Наблюдение задается вектором x, а его классификация - числом Психологическая интуиция искусственных нейронных сетей (Психологическая интуиция искусственных нейронных сетей).

Таким образом, требуется, имея последовательность из l наблюдений и классификаций Психологическая интуиция искусственных нейронных сетей построить такое решающее правило Психологическая интуиция искусственных нейронных сетей, которое с возможно меньшим числом ошибок классифицировало бы новые наблюдения.

Для формализации термина «ошибка» принимается предположение о том, что существует некоторое правило Психологическая интуиция искусственных нейронных сетей, определяющее для каждого вектора x классификацию Психологическая интуиция искусственных нейронных сетей, которая называется «истинной». Ошибкой классификации вектора x с помощью правила Психологическая интуиция искусственных нейронных сетей называется такая классификация, при которой Психологическая интуиция искусственных нейронных сетей и Психологическая интуиция искусственных нейронных сетей не совпадают.

Далее предполагается, что в пространстве векторов x существует неизвестная нам вероятностная мера (обозначаемая плотность Психологическая интуиция искусственных нейронных сетей). В соответствии с Психологическая интуиция искусственных нейронных сетей случайно и независимо появляются ситуации x, которые классифицируются с помощью правила Психологическая интуиция искусственных нейронных сетей. Таким образом определяется обучающая последовательность Психологическая интуиция искусственных нейронных сетей.

Качество решающего правила Психологическая интуиция искусственных нейронных сетей записывается в виде Психологическая интуиция искусственных нейронных сетей, где Психологическая интуиция искусственных нейронных сетей.

Проблема следовательно заключается в построении решающего правила Психологическая интуиция искусственных нейронных сетей таким образом, чтобы минимизировать функционал Психологическая интуиция искусственных нейронных сетей.

Сходной с задачей распознавания образов является задача восстановления регрессии, предпосылки к которой формулируются следующим образом:

Два множества элементов связаны функциональной зависимостью, если каждому элементу x может быть поставлен в соответствие элемент y. Эта зависимость называется функцией, если множество x - векторы, а множество y - скаляры. Однако существуют и такие зависимости, где каждому вектору x ставится в зависимость число y, полученное с помощью случайного испытания, согласно условной плотности Психологическая интуиция искусственных нейронных сетей. Иначе говоря, каждому x ставится в соответствие закон Психологическая интуиция искусственных нейронных сетей, согласно которому в случайном испытании реализуется выбор y.

Существование таких связей отражает наличие стохастических зависимостей между вектором x и скаляром и скаляром y. Полное знание стохастической зависимости требует восстановления условной плотности Психологическая интуиция искусственных нейронных сетей, однако, данная задача весьма трудна и на практике (например, в задачах обработки результатов измерения) может быть сужена до задачи определения функции условного математического ожидания. Эта суженная задача формулируется следующим образом: определить функцию условного математического ожидания, то есть функцию, которая каждому x ставит в соответствие число y(x), равное математическому ожиданию скаляра y: Психологическая интуиция искусственных нейронных сетей. Функция y(x) называется функцией регрессии, а задача восстановления функции условного математического ожидания - задачей восстановления регрессии.

Строгая постановка задачи такова:

В некоторой среде, характеризующейся плотностью распределения вероятности P(x), случайно и независимо появляются ситуации x. В этой среде функционирует преобразователь, который каждому вектору x ставит в соответствие число y, полученное в результате реализации случайного испытания, согласно закону Психологическая интуиция искусственных нейронных сетей. Свойства среды P(x) и закон Психологическая интуиция искусственных нейронных сетей неизвестны, однако известно, что существует регрессия Психологическая интуиция искусственных нейронных сетей. Требуется по случайной независимой выборке пар Психологическая интуиция искусственных нейронных сетей восстановить регрессию, то есть в классе функций Психологическая интуиция искусственных нейронных сетей отыскать функцию Психологическая интуиция искусственных нейронных сетей, наиболее близкую к регрессии Психологическая интуиция искусственных нейронных сетей.

Задача восстановления регрессии является одной из основных задач прикладной статистики. К ней приводится проблема интерпретации прямых экспериментов.

Задача решается в следующих предположениях:

Искомая закономерность связывает функциональной зависимостью величину y с вектором x: Психологическая интуиция искусственных нейронных сетей.

Целью исследования является определение зависимости Психологическая интуиция искусственных нейронных сетей в ситуации, когда в любой точке x может быть проведен прямой эксперимент по определению этой зависимости, то есть проведены прямые измерения величины Психологическая интуиция искусственных нейронных сетей. Однако вследствие несовершенства эксперимента результат измерения определит истинную величину с некоторой случайной ошибкой, то есть в каждой точке x удается определить не величину Психологическая интуиция искусственных нейронных сетей, а величину Психологическая интуиция искусственных нейронных сетей, где Психологическая интуиция искусственных нейронных сетей - ошибка эксперимента, Психологическая интуиция искусственных нейронных сетей.

Ни в одной точке x условия эксперимента не допускают систематической ошибки, то есть математическое ожидание измерения Психологическая интуиция искусственных нейронных сетей функции в каждой фиксированной точке равно значению функции Психологическая интуиция искусственных нейронных сетей в этой точке: Психологическая интуиция искусственных нейронных сетей.

Случайные величины Психологическая интуиция искусственных нейронных сетей и Психологическая интуиция искусственных нейронных сетей независимы.

В этих условиях необходимо по конечному числу прямых экспериментов восстановить функцию Психологическая интуиция искусственных нейронных сетей. Требуемая зависимость есть регрессия, а суть проблемы состоит в отыскании регрессии по последовательности пар Психологическая интуиция искусственных нейронных сетей.

Задача восстановления регрессии принято сводить к проблеме минимизации функционала Психологическая интуиция искусственных нейронных сетей на множестве Психологическая интуиция искусственных нейронных сетей (интегрируемых с квадратом по мере Психологическая интуиция искусственных нейронных сетей функций) в ситуации, когда плотность Психологическая интуиция искусственных нейронных сетей неизвестна, но зато задана случайная и независимая выборка пар Психологическая интуиция искусственных нейронных сетей.


1.6 алгоритмы и методы безусловной оптимизации


Как было показано в предыдущем параграфе данной главы, решение основных задач восстановления зависимостей достигается при помощи процедуры оптимизации функционала качества.

Ее решение будет рассмотрено в подходах задачи безусловной минимизации гладкой функции Психологическая интуиция искусственных нейронных сетей [77].

Данная задача непосредственно связана с условиями существования экстремума в точке:

Необходимое условие первого порядка. Точка Психологическая интуиция искусственных нейронных сетей называется локальным минимумом Психологическая интуиция искусственных нейронных сетей на Психологическая интуиция искусственных нейронных сетей, если найдется Психологическая интуиция искусственных нейронных сетей для Психологическая интуиция искусственных нейронных сетей. Согласно теореме Ферма если Психологическая интуиция искусственных нейронных сетей - точка минимума Психологическая интуиция искусственных нейронных сетей на Психологическая интуиция искусственных нейронных сетей и Психологическая интуиция искусственных нейронных сетей дифференцируема в Психологическая интуиция искусственных нейронных сетей, то Психологическая интуиция искусственных нейронных сетей.

Достаточное условие первого порядка. Если Психологическая интуиция искусственных нейронных сетей - выпуклая функция, дифференцируемая в точке Психологическая интуиция искусственных нейронных сетей и Психологическая интуиция искусственных нейронных сетей, то Психологическая интуиция искусственных нейронных сетей - точка глобального минимума Психологическая интуиция искусственных нейронных сетей на Психологическая интуиция искусственных нейронных сетей.

Необходимое условие второго порядка. Если Психологическая интуиция искусственных нейронных сетей - точка минимума Психологическая интуиция искусственных нейронных сетей на Психологическая интуиция искусственных нейронных сетей и Психологическая интуиция искусственных нейронных сетей дважды дифференцируема в ней, то Психологическая интуиция искусственных нейронных сетей.

Достаточное условие второго порядка. Если в точке Психологическая интуиция искусственных нейронных сетей Психологическая интуиция искусственных нейронных сетей дважды дифференцируема, выполнено необходимое условие первого порядка (Психологическая интуиция искусственных нейронных сетей) и Психологическая интуиция искусственных нейронных сетей, то Психологическая интуиция искусственных нейронных сетей - точка локального минимума.

Условия экстремума являются основой, на которой строятся методы решения оптимизационных задач. В ряде случаев условия экстремума хотя и не дают возможности явного нахождения решения, но сообщают много информации об его свойствах.

Кроме того, доказательство условий экстремума или вид этих условий часто указывают путь построения методов оптимизации.

При обосновании методов приходится делать ряд предположений. Обычно при этом требуется, чтобы в точке Психологическая интуиция искусственных нейронных сетей выполнялось достаточное условие экстремума. Таким образом, условия экстремума фигурируют в теоремах о сходимости методов.

И, наконец, сами доказательства сходимости обычно строятся на том, что показывается, как «невязка» в условии экстремума стремится к нулю.

При решении оптимизационных задач существенны требования существования, единственности и устойчивости решения.

Существование точки минимума проверяется при помощи теоремы Вейерштрасса:

Пусть Психологическая интуиция искусственных нейронных сетей непрерывна на Психологическая интуиция искусственных нейронных сетей и множество Психологическая интуиция искусственных нейронных сетей для некоторого Психологическая интуиция искусственных нейронных сетей непусто и ограничено. Тогда существует точка глобального минимума Психологическая интуиция искусственных нейронных сетей на Психологическая интуиция искусственных нейронных сетей.

При анализе единственности точки экстремума применяются следующие рассуждения:

Точка минимума называется локально единственной, если в некоторой ее окрестности нет других локальных минимумов. Считается, что Психологическая интуиция искусственных нейронных сетей - невырожденная точка минимума, если в ней выполнено достаточное условие экстремума второго порядка (Психологическая интуиция искусственных нейронных сетей,Психологическая интуиция искусственных нейронных сетей).

Доказано, что точка минимума (строго) выпуклой функции (глобально) единственна.

Проблема устойчивости решения возникает в связи со следующим кругом вопросов:

Пусть метод оптимизации приводит к построению минимизирующей последовательности, следует ли из этого ее сходимость к решению?

Если вместо исходной задачи минимизации решается задача, сходная с ней, можно ли утверждать близость их решений?

В [77] приводится следующее определение устойчивости:

Точка Психологическая интуиция искусственных нейронных сетей локального минимума Психологическая интуиция искусственных нейронных сетей называется локально устойчивой, если к ней сходится любая локальная минимизирующая последовательность, то есть если найдется Психологическая интуиция искусственных нейронных сетей такое, что из Психологическая интуиция искусственных нейронных сетей следует Психологическая интуиция искусственных нейронных сетей.

При обсуждении проблемы устойчивости решения задачи оптимизации можно выделить следующие важные теоремы.

Точка локального минимума непрерывной функции Психологическая интуиция искусственных нейронных сетей локально устойчива тогда и только тогда, когда она локально единственна.

Пусть Психологическая интуиция искусственных нейронных сетей - локально устойчивая точка минимума непрерывной функции Психологическая интуиция искусственных нейронных сетей, а Психологическая интуиция искусственных нейронных сетей - непрерывная функция. Тогда для достаточно малых Психологическая интуиция искусственных нейронных сетей функция Психологическая интуиция искусственных нейронных сетей имеет локально единственную точку минимума Психологическая интуиция искусственных нейронных сетей в окрестности Психологическая интуиция искусственных нейронных сетей и Психологическая интуиция искусственных нейронных сетей при Психологическая интуиция искусственных нейронных сетей.

Пусть Психологическая интуиция искусственных нейронных сетей - невырожденная точка минимума Психологическая интуиция искусственных нейронных сетей, а функция Психологическая интуиция искусственных нейронных сетей непрерывно дифференцируема в окрестности точки Психологическая интуиция искусственных нейронных сетей. Тогда для достаточно малых Психологическая интуиция искусственных нейронных сетей существует Психологическая интуиция искусственных нейронных сетей - локальная точка минимума функции Психологическая интуиция искусственных нейронных сетей в окрестности Психологическая интуиция искусственных нейронных сетей, причем Психологическая интуиция искусственных нейронных сетей.

Помимо качественной характеристики точки минимума (устойчива она или нет) существенным является вопрос количественной оценки устойчивости. Такие оценки, позволяющие судить о близости точки Психологическая интуиция искусственных нейронных сетей к решению Психологическая интуиция искусственных нейронных сетей, если Психологическая интуиция искусственных нейронных сетей близко к Психологическая интуиция искусственных нейронных сетей записываются следующим образом:

Для сильно выпуклых функций:

Психологическая интуиция искусственных нейронных сетей,

где Психологическая интуиция искусственных нейронных сетей - константа сильной выпуклости.

Для невырожденной точки минимума:

Психологическая интуиция искусственных нейронных сетей,

где Психологическая интуиция искусственных
    <div class=

Если Вам нужна помощь с академической работой (курсовая, контрольная, диплом, реферат и т.д.), обратитесь к нашим специалистам. Более 90000 специалистов готовы Вам помочь.
Бесплатные корректировки и доработки. Бесплатная оценка стоимости работы.
Подробнее

Поможем написать работу на аналогичную тему

Получить выполненную работу или консультацию специалиста по вашему учебному проекту

Похожие рефераты: