Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Брицко Б01-104 #202

Open
wants to merge 1 commit into
base: master
Choose a base branch
from
Open
Changes from all commits
Commits
File filter

Filter by extension

Filter by extension

Conversations
Failed to load comments.
Loading
Jump to
Jump to file
Failed to load files.
Loading
Diff view
Diff view
20 changes: 20 additions & 0 deletions chapters/linear/main.tex
Original file line number Diff line number Diff line change
Expand Up @@ -1781,3 +1781,23 @@ \section*{Задача 2: Классификация рисков клиенто
g(\mu) = \log \left( \frac{\mu}{1-\mu} \right)
\]
где $\mu = E[Y]$, отражает вероятность нахождения клиента в группе "рискованных". Логистическая функция переводит значения в диапазон от 0 до 1, который интерпретируется как вероятность принадлежности к классу.




\section{Влияние регуляризации на сходимость стохастического градиента в линейной регрессии}
Метод стохастического градиента (SGD) играет ключевую роль в оптимизации параметров машинных обучающих моделей, особенно когда необходимо эффективно масштабировать обработку данных. При работе с большими наборами данных или в условиях онлайн-обучения, где каждый новый образец данных поступает последовательно и независимо, SGD обеспечивает значительное преимущество благодаря своей способности обновлять модель постепенно.

\subsection{Теоретическая подоплека регуляризации}
Регуляризация добавляет к функции стоимости штраф за большие веса, влияя на сходимость алгоритма путем изменения его оптимизационного ландшафта. L1-регуляризация (лассо) и L2-регуляризация (ридж) обеспечивают механизмы контроля сложности модели, улучшая её обобщающую способность и предотвращая переобучение.

\subsection{Задачи}
\textbf{Исследование влияния размера штрафа регуляризации на скорость сходимости SGD}
Анализировать, как различные значения коэффициентов регуляризации влияют на траекторию обучения SGD в линейной регрессии.

\subsection{Сравнение L1 и L2 регуляризации в мультиколлинеарных условиях}
Разработать эксперимент, в котором модели с L1 и L2 регуляризацией будут применены к набору данных с высокой степенью мультиколлинеарности.

\subsection{Разработка метода динамической адаптации параметров регуляризации в реальном времени}
Создать алгоритм, который на основе текущей производительности модели на валидационном наборе данных адаптирует параметры регуляризации в процессе обучения.