Please enable JavaScript.

Coggle requires JavaScript to display documents.

искусственный интеллект - Coggle Diagram

- - - - Нейрон
        
        Основной элемент сети, выполняющий математические операции.
      - Смещение нейрона
        
        Параметр для сдвига графика функции активации.
      - Функция активации
        
        Ограничивает выходные данные нейрона в определённом диапазоне.
    - - Разделение данных
        
        Обучающее подмножество
        
        Контрольное подмножество
        
        Тестовое подмножество
      - Пакетный и последовательный режимы
      - Принцип подкрепления-наказания
        
        Корректировка весов на основе ошибок предсказаний.
  - - - Разница между ожидаемым и фактическим ответом сети.
    - - Mean Squared Error (MSE)
        
        Среднеквадратичная ошибка (среднее квадратов разницы между идеальными и реальными значениями).
      - Root MSE
        
        Корень из MSE для возврата к оригинальной шкале.
      - Arctan
        
        Ошибка на основе арктангенса, всегда выше с увеличением разницы.
    - - Алгоритм градиентного спуска
        
        Определение: Нахождение локального минимума функции через градиент.
        
        Градиент: Производная функции по параметрам, указывающая направление изменения.
      - Обновление весов
        
        Формула: Использование скорости обучения и градиента для корректировки веса нейрона.
      - Дельта нейрона
        
        Дельта выходного слоя
        
        Дельта скрытого слоя
  - - - Задачи
        
        Интерполяция
        
        Экстраполяция
        
        Распознавание образов
        
        Анализ данных
    - - Среднее вычитание
        
        Центрирование данных путём вычитания среднего значения.
      - Нормализация
        
        Приведение данных к одной шкале (например, [0, 1]).
    - - Операция свёртки
        
        Применение фильтра для выделения признаков изображения.
      - Подвыборка (Pooling)
        
        Уменьшение размерности изображения для ускорения вычислений.
      - Dropout
        
        Исключение случайных нейронов для уменьшения переобучения.
  - - - Скорость обучения
        
        Параметр, определяющий величину изменений в весах за одну итерацию.
      - Количество скрытых слоев и нейронов
        
        Определяют сложность и способность сети к обобщению.
      - Нейроны смещения
        
        Дополнительный параметр для сдвига функции активации.
    - - AlexNet
        
        Использует ReLU вместо арктангенса для ускорения обучения.
      - VGG-16, ResNet
        
        Глубокие нейронные сети с множеством слоев.
      - Применение Dropout
        
        Использование Dropout для предотвращения переобучения.
  - - - Распознавание образов
      - Перевод текста
      - Классификация и другие нестандартные задачи.
    - - Обучение вместо программирования, универсальность в решении задач.
- - - - Нечёткое множество — подмножество элементов с функцией принадлежности от 0 до 1.
    - - Пересечение (A ∩ B)
        
        Степень принадлежности пересечению равна минимальной степени принадлежности для каждого элемента.
      - Объединение (A ∪ B)
        
        Степень принадлежности объединению — максимальная степень принадлежности для каждого элемента.
      - Дополнение (¬A)
        
        Дополнение множества A определяется как 1 - μA(x).
      - Свойства операций над нечёткими множествами
        
        Коммутативность
        
        A ∩ B = B ∩ A, A ∪ B = B ∪ A.
        
        Ассоциативность
        
        (A ∩ B) ∩ C = A ∩ (B ∩ C), (A ∪ B) ∪ C = A ∪ (B ∪ C).
        
        Идемпотентность
        
        A ∩ A = A, A ∪ A = A.
        
        Дистрибутивность
        
        A ∩ (B ∪ C) = (A ∩ B) ∪ (A ∩ C), A ∪ (B ∩ C) = (A ∪ B) ∩ (A ∪ C).
        
        Законы де Моргана
        
        ¬(A ∩ B) = ¬A ∪ ¬B, ¬(A ∪ B) = ¬A ∩ ¬B.
    - - Нечеткое отношение R на множествах A1, A2, ..., An — подмножество декартова произведения этих множеств.
      - Пример: Нечеткое отношение «x приблизительно равно y» на множествах x, y ∈ {0, 1, 2, 3}.
      - Операции над нечёткими отношениями
        
        Объединение (R1 ∪ R2)
        
        Степень принадлежности равна максимальной степени принадлежности для каждой пары элементов.
        
        Пересечение (R1 ∩ R2)
        
        Степень принадлежности равна минимальной степени принадлежности для каждой пары элементов.
    - - Композиция двух нечётких отношений R1 и R2 определяется как sup(min(μR1(x,y), μR2(y,z))).
    - - Характеризуется именем, областью определения и функцией принадлежности.
  - - - Лингвистические переменные
        
        Пример: «температура» может быть представлена термами «холодно», «комфортно», «жарко».
        
        Лингвистическая переменная может быть описана с помощью множества термов, синтаксических и семантических правил.
        
        Определение
        
        Лингвистическая переменная — переменная, принимающая значения из множества слов или словосочетаний.
      - Конъюнктивная форма
        
        ⟨(a есть a′) и (b есть b′)⟩ → ⟨(a,b) есть (a′ ∩ b′)⟩
        
        Функция принадлежности: μA∩B(x,y) = min(μA(x), μB(y)).
      - Дизъюнктивная форма
        
        ⟨(a есть a′) или (b есть b′)⟩ → ⟨(a,b) есть (a′ ∪ b′)⟩
        
        Функция принадлежности: μA∪B(x,y) = max(μA(x), μB(y)).
      - Импликативная форма
        
        ⟨Если (a есть a′), то (b есть b′)⟩ → ⟨(a,b) есть (a′ → b′)⟩
        
        Используется правило Мамдани для нечёткого отношения: μR(x,y) = min(μA(x), μB(y)).
    - - Например, <давление большое> соответствует нечеткому множеству.
    - - Например, <давление очень большое> — это высказывание с модификатором "очень".
    - - Используются логические связки (И, ИЛИ, ЕСЛИ… ТО…) для формирования сложных высказываний.
  - - - Преобразование четких значений в нечеткие множества через функции принадлежности.
    - - Применение правил для вычисления степени уверенности в левой части правила.
    - - Объединение нечетких множеств для получения итогового нечеткого значения.
    - - Преобразование нечеткого множества в конкретное числовое значение через метод центра тяжести.
- - - - Качественная шкала без нулевой отметки и единиц измерений.
      - Применение: классификация объектов по сходству и эквивалентности.
      - Примеры: шкала цветов, шкала групп крови, шкала вкусов.
    - - Монотонное изменение значений, позволяет устанавливать отношения (=, >, <, !=).
      - Применение: установление порядка, но не измерение разницы.
      - Примеры: шкала Бофорта, шкала интенсивности землетрясений.
    - - Равные интервалы, произвольная нулевая отметка.
      - Операции: сложение и вычитание интервалов.
      - Примеры: температурные шкалы, шкала времени.
    - - Естественный ноль и единица измерения, все арифметические операции возможны.
      - Примеры: масса, длина, яркость.
    - - Метрики для определения степени похожести объектов
        
        Евклидово расстояние
        
        Зависит от величины признаков.
        
        Квадрат евклидова расстояния
        
        Увеличивает вес удалённых объектов.
        
        Манхэттенское расстояние
        
        Измеряет сумму абсолютных отклонений по каждому признаку.
        
        Расстояние Чебышева
        
        Учитывает только наибольшее отклонение.
        
        Степенное расстояние
        
        Управляет влиянием признаков.
        
        Метрика процента несогласия
        
        Применяется для категориальных данных.
  - - - Метод разделения объектов на группы (кластеры).
      - Применяется в медицине, биологии, маркетинге, безопасности и т.д.
    - - Не нужно заранее определять количество кластеров.
      - Обнаружение новых, неожиданных кластеров.
      - Используется разными специалистами.
    - - Определение задачи.
      - Выбор признаков.
      - Формирование выборки.
      - Выбор метода анализа.
      - Интерпретация и проверка модели.
      - Применение модели.
    - - Иерархические методы
        
        Строят дерево вложенных кластеров.
      - Плоские методы
        
        Одно разбиение объектов на кластеры.
      - Четкие и нечеткие методы
        
        Четкие методы
        
        Объект принадлежит только одному кластеру.
        
        Нечеткие методы
        
        Объект может принадлежать нескольким кластерам с вероятностями.
    - - Агломеративные методы
        
        Начинают с отдельных объектов, постепенно объединяя кластеры.
      - Дивизионные методы
        
        Начинают с одного кластера, делят его на меньшие.
      - Определение расстояний между кластерами
        
        Метод ближайших соседей
        
        Минимальное расстояние между объектами разных кластеров.
        
        Метод наиболее удалённых соседей
        
        Максимальное расстояние между объектами.
        
        Алгоритм Уорда
        
        Минимизация суммы расстояний между объектами и центром кластера.
        
        Центроидная кластеризация
        
        Расстояние между кластерами рассчитывается как расстояние между центрами кластеров.
    - - Метод выбора количества кластеров
        
        Анализ изменения расстояний между кластерами.
        
        Определение оптимального числа кластеров через скачки в расстояниях.
  - - - Процесс: объединение кластеров на каждом шаге.
      - Результаты: дендрограмма — деревовидная структура объединения кластеров.
    - - Задача: распределить объекты в k кластеров.
      - Алгоритм:
        
        Инициализация центров кластеров случайным образом.
        
        Присвоение объектов ближайшему центру.
        
        Перерасчёт центров кластеров.
        
        Повторение шагов до сходимости.
      - Недостатки:
        
        Не гарантирует глобальный минимум.
        
        Требуется заранее знать количество кластеров.
    - - Объекты могут принадлежать нескольким кластерам с разной степенью.
      - Модификация задачи: расчёт степени принадлежности для каждого объекта.
      - Целевая функция: минимизация суммы квадратов отклонений объектов от центров кластеров.
    - - Задача: нахождение скрытых закономерностей данных через оптимизационные задачи.
      - Алгоритм сети Кохонена:
        
        Инициализация весов случайными значениями.
        
        Нормализация входных данных.
        
        Применение входных данных и расчёт расстояний до центров кластеров.
        
        Выбор победителя и корректировка его весов.
        
        Повторение до сходимости.
      - Особенности:
        
        Кластеры определяются на основе схожести объектов.
        
        Нейроны обновляют свои веса для улучшения точности кластеризации.
      - Типы нейронных сетей для кластеризации:
        
        Сигма-пи сети.
        
        Многослойный персептрон.
        
        Сети Кохонена (самоорганизующиеся карты).
    - - Пример с двумя кластерами: инициализация весов нейронов, обучение с подачей объекта на вход и вычислением расстояния до нейронов.
      - Нейрон с минимальным расстоянием «выигрывает», и его веса обновляются.
- - - - Обучение
        
        Развертывание во времени, обратное распространение ошибки
        
        Количество слоев зависит от входной последовательности
        
        Проблема исчезающего градиента (сигнал об ошибках уменьшается при передаче от одного слоя к другому) при обучении сетей с большим количеством слоев
      - Принцип работы
        
        Используют циклические связи для передачи информации между шагами.
        
        Запоминают контекст при обработке текста.
      - Версии
        
        GRU (Gated Recurrent Unit) – облегчённая версия RNN с улучшенной памятью.
        
        Обновляющий вентиль (Update Gate) – контролирует информацию в сети.
        
        Отличается от LSTM меньшим количеством параметров и более быстрым обучением.
        
        LSTM (Long Short-Term Memory) – сеть с долгосрочной памятью, улучшающая работу RNN.
        
        Клеточное состояние (Cell State) – хранение долгосрочной информации.
        
        Вентили (Forget Gate, Input Gate, Output Gate) – управляют потоком информации.
        
        Обучение с обратным распространением ошибки (Backpropagation).
  - - - Разряженные
      - Плотные
- - - - Мышление
      - Восприятие
      - Распознование
      - Воображение
    - - структура данных для представления некоторого концептуального объекта. Информация, относящаяся к фрейму, содержится в составляющих его слотах.
      - сеть из узлов и связей между ними. Верхние уровни фрейма четко определены, поскольку образованы понятиями, которые всегда справедливы по отношению к предполагаемой ситуации. На более низких уровнях много вершин-терминалов, которые должны быть заполнены примерами или данными.
      - Слот
        
        может быть терминальным (листом иерархии) или представлять собой фрейм нижнего уровня.
      - Свойства
        
        Инкапсуляция
        
        Наследование
        
        Полиморфизм
      - Типы
        
        Фреймы-структуры
        
        матрица сканера, конструкция дома
        
        Фреймы-роли
        
        покупатель, директор
        
        Фреймы-сценарии
        
        добавление данных в БД
    - - Согласование
      - Детализация
      - Управление
        
        переход от одного фрейма к другому (трансформация), выполняемый с некоторой точки зрения и направленный на достижение согласования
  - - - модель предметной области, представленная в виде графа, вершинами которого являются понятия, а дуги (ребра) – отношения между ними.
      - Задача
        
        анализ естественных языков и построение психологических моделей человеческой памяти.
      - Отношения
        
        таксономические («класс – подкласс – экземпляр», «множество – подмножество – элемент» и т.п.).
        
        структурные («часть – целое»). Данный тип отношения называют также отношением Part of
        
        родовые («предок» - «потомок»);
        
        производственные («начальник» - «подчиненный»);
        
        функциональные (определяемые обычно глаголами «производит», «влияет» и т.п.);
        
        количественные (больше, меньше, равно и т.п.);
        
        пространственные (далеко от, близко от, за, под, над и т.п.);
        
        временные (раньше, позже, в течение и т.п.);
        
        атрибутивные (иметь свойство, иметь значение);
        
        логические (И, ИЛИ, НЕ);
        
        казуальные (причинно-следственные).
        
        Классификация по степени участия
        
        унарное (рекурсивное) - отношение связывает понятие само с собой;
        
        N-арное - отношение, связывающее более двух понятий.
        
        бинарное - отношение связывает два понятия;
        
        Классификация по количеству типов отношений
        
        однородные (с единственным типом отношений)
        
        неоднородные (с различными типами отношений)