Please enable JavaScript.

Coggle requires JavaScript to display documents.

ML (Процесс обучения (Метрика качества (Классы мтерик (Оффлайн-метрики…

- - - - Бизнес-метрики
      - Онлайн-метрики
      - Оффлайн-метрики
        
        Метрики качества регрессии: насколько хорошо вписывается в данные линия регрессии: MSE, RMSE, MAE, MAPE
        
        Метрики качества классификации: цена ошибки может быть разной для разных случаев:
        true positive/true negative/ false positive / false negative
        
        Метрики качества кластеризации: средняя похожесть объектов внутри кластера должна быть высокой. Метрика трудна и бесполезна на практике
        
        Метрики качества ранжирования
      - Метрики обучения
      - На практике метрики редко соответствуют друг другу
      - Важное свойство для метрики - возможность адекватной интерпретации
- - - - Может быть сложность в определении признака
      - Определение признака может быть запатентовано
    - - Сырые данные
      - Извлечение признака
      - Классификация
      - Получение результата
- - - - Регрессия - имеются непрерывные значения y
        
        Требуется размеченная выборка
        
        Целевое значение может быть любым действительным числом
        
        Есть линейные и нелинейные модели
        
        Может быть чувствительна к выбросам
        
        Методы
        
        Линейная регрессия. Решение методом наименьгих квадратов
        
        Нелинейная регрессия
        
        Важно не переусердствовать с признаками
        
        Соблюдать баланс между сложностью модели и ее гибкостью
        
        Излишне сложная модель может оказаться негибкой
        
        Деревья и ансамбли
      - Ранжирование
        
        Даны списки объектов и их порядки в этих списках
        
        Задача: построить ранжирующую модель, обобщающую способ ранжирования для новых данных
      - Классификация - заранее определенный набор классов
        
        Есть обучающая выборка, в которой представлены признаки объектов
        
        Задача: найти алгоритм, который для каждого нового объекта определит его метку класса
        
        Эквивалентно построению плоскости, отделяющей одним данные от других
        
        Это обучение с учителем - требуется готовая выборка
        
        Выборка - набор дискретных значений
        
        При большом количестве признаков появляются проблемы визуализации
        
        Методы
        
        Логистическая регрессия - хорошо работает на малом объеме данных
        
        SVM - support vector machine, машина опорных векторов
        
        Строит плоскость, которая отделяет объекты одного класса от другого
        
        Плоскость выбирается так, чтобы она была максимально далека от объектов разных классов
        
        Сильно проигрывает современным методам
        
        Деревья решений
        
        Удобно визуализировать и интерпретировать
        
        В каждом узле принимается решение, куда двигаться
        
        Ансамбли
        
        Ансамбли деревьев (random forest)
        
        Ансамбли логистических регрессий
        
        Прочие ансамбли, в том числе комбинированные
        
        Нейросети
        
        Иерархический классификатор, пособный самостоятельно выделять признаки в исходном сигнале
        
        Хорошо работает для изображений, видео, текста, звука
        
        Массовое применение для анализа временных рядов, сигналов с датчиков
        
        Обычно для обучения используется метод обратного распространения ошибки - back-propagation
        
        Искусственный нейрон - некая функция: по сути, нейрон это логистическая регрессия
        
        Градиентный бустинг
        
        Строится классификатор, проверяется его работа
        
        Оценки повышаются/понижаются
        
        Строится другой классификатор, который учитывает оценки
        
        Таким образом строится каскад классификаторов
        
        kNN - k Nearest Neighbors
        
        Есть обучающая выборка, она просто запоминается
        
        Классификация происходит по "голосованию" среди K соседей нового объекта еще неизвестного класса
        
        Подходит, если пространство практически неразделимо линейно
  - - - Кластеризация - объединить элементы в группы по их похожести; популярная задача
        
        Кластеризация может не работать, тогда выбирается другой метод
        
        Идеального алгоритма нет
        
        Методы
        
        K-means
        
        Количеситво кластеров задается заранее
        
        Быстрый и простой алгоритм
        
        Есть несколько вариаций
        
        Может давать плохой результат для кластеров сложной формы
        
        Иерархическая
        
        Последовательное объединение похожих объектов
        
        Плохо работает при большом числе объектов
        
        DBSCAN - группирует участки по плотности
        
        На основе распределений
        
        На основе плотности
        
        Графовая
        
        Жесткая, объект относится только к одному кластеру
        
        Мягкая (нечеткая), объект может относиться к несольким кластерам
      - Уменьшение размерности с сохранением отношений между элементами
        
        Каждый объект представлен в виде многомерного вектора
        
        Задача: получить как можно более компактное описание признаков объекта
        
        Метод удобно использовать для разведочного анализа
        
        Методы
        
        Главных компонент
        
        Независимых компонент
        
        Многомерное щкалирование
        
        Автоэнкодеры, PCA
        
        t-SNE