– модели, имеющие избыточную сложность, могут оказаться переобученными.
Примерами регрессионных моделей являются: линейные функции, алгебраические полиномы, ряды Чебышёва, нейронные сети без обратной связи (например, однослойный персептрон Розенблатта), радиальные базисные функции и т. д.
Примерами математических моделей являются: математические модели на основе теории игр, модель «хищник – жертва», модель маятника и т. д.
1.3. Зависимая и независимая переменные и регрессионный анализ
Студенты-психологи при формулировке эмпирических гипотез научного исследования достаточно часто выдвигают предположение об одностороннем влиянии одной переменной на другую. В самой гипотезе это проявляется в выражениях типа: «переменная х является причиной переменной у», или «переменная х определяет переменную у», или «переменная х является основанием для переменной у».
Но в проверке такого рода гипотез допускают две методологические ошибки. Во-первых, забывают о том, что проверка такого рода гипотез возможна только через эксперимент.. В научных исследованиях изучить влияние одной переменной на другую, определить наличие каузальной связи и попытаться найти ее количественное выражение можно только с помощью одного метода – эксперимента. Изучение методологии, границ применимости и технологии проведения эксперимента в психологии составляет задачу другой дисциплины – экспериментальной психологии. Мы только заметим, что сегодня в психологии, в отличие от конца XIX – начала XX в. (тогда в психологии господствовал эксперимент), проводится достаточно мало экспериментальных исследований, и те, как правило, имеют статус квазиэксперимента. В реальности же в эмпирических исследованиях (особенно в студенческих научных исследованиях) имеют место одномоментные тестовые срезы двух или нескольких переменных с последующей статистической обработкой.
Во-вторых, степень влияния одной переменной на другую связывают с проведением корреляционного анализа и последующей интерпретацией коэффициента корреляции. Следует всегда помнить, что корреляция показывает взаимосвязь, но не влияние.
Можно ли в такой ситуации однозначно определить каузальную (генетическую) связь на основе статистической обработки данных? Ответ – категорическое нет. Но меры влияния одной переменной на другую статистическими методами определить можно. И, сравнив между собой эти меры, можно с определенными оговорками определиться, какую переменную лучше использовать в качестве объясняющей (независимой), а какую – в качестве объясняемой (зависимой).