Limitations of the application of the method of estimating the highestLyapunov exponent for assessing the complexity of calcium oscillations
Л.С. Ведерников1#, С.В. Галкина1,2, А.Н. Свешникова1,2,3.
L.S. Vedernikov1#, S.V. Galkina1,2, A.N. Sveshnikova1,2,3.
1. Центp теоpетичеcкиx пpоблем физико-xимичеcкой фаpмакологии PАН, Россия, 109029, г. Моcква, ул.Средняя Калитниковская, д. 30
2. Национальный медицинcкий иccледовательcкий центp детcкой гематологии, онкологии и иммунологии им.Д. Pогачева, Россия, 117997, г. Моcква, ул. Cамоpы Машела, д. 1
3. Московский государственный университет им. М.В. Ломоносова, Россия, 119991, г. Моcква, ЛенинcкиеГоpы, д. 1, корп. 2
# Автор для переписки: lsv89314@mail.ru
1. Center for Theoretical Problems of Physico-chemical Pharmacology, Russian Academy of Sciences, 30 Sred-nyaya Kalitnikovskaya st., Moscow, 109029, Russia
2. Dmitry Rogachev National Medical Research Centre of Pediatric Hematology, Oncology and Immunology, 1Samory Mashela st., Moscow, 117997, Russia
3. Lomonosov Moscow State University, 1/2 Leninskiye Gory, Moscow, 119991, Russia
Получено: 25.11.2025 Принято к публикации: 30.12.2025 Опубликовано: 31.12.2025
EDN: XJGZXP
DOI: 10.65189/2949-0758-2025-4-1-16-21
Аннотация
Ионы кальция — ключевые вторичные мессенджеры в системе внутриклеточной сигнализации. Для верификации детерминированного хаоса в подобных динамических системах традиционно используется метод оценки старшего показателя Ляпунова (λₘₐₓ). Однако его применение требует тщательной предобработки экспериментальных данных, что ограничивает спектр задач, в которых может быть использована эта оценка. В данной работе мы рассмотрели применимость метода λₘₐₓ к временным рядам кальциевых осцилляций, экспериментально зарегистрированных в одиночных тромбоцитах человека. Нашей целью было показать, что комплексная сложность осцилляций варьируется в зависимости от агониста, и для этой задачи был предложен метод оценки старшего показателя Ляпунова. Однако анализ выявил, что полученные сигналы обладают выраженной нестационарностью, включающей дрейф амплитуды и длительные периоды отсутствия динамики. Это приводит к ложноотрицательным результатам при расчёте показателя Ляпунова. Построенные двухмерные фазовые портреты демонстрируют смещение и «сплющивание» траекторий, что отражает эволюцию статических свойств сигнала, а не устойчивую структуру аттрактора. В результате расчёт λₘₐₓ для таких данных приводит к артефактным результатам: визуально схожие временные ряды выдают противоположные значения: как положительные (указывающие на хаос), так и отрицательные (соответствующие устойчивой динамике). Таким образом, применение показателя Ляпунова к необработанным экспериментальным кальциевым сигналам тромбоцитам некорректно. Для получения достоверных результатов требуется предварительно устранить нестационарный компонент или использовать альтернативные методы анализа.
Ключевые слова: показатель Ляпунова, кальциевая сигнализация, тромбоциты.
Annotation
Calcium ions are key secondary messengers in intracellular signaling. The largest Lyapunov exponent (λₘₐₓ) is traditionally used to verify deterministic chaos in such dynamical systems. However, its application requires thorough preprocessing of experimental data, which limits the range of tasks for which this metric can be reliably used. In this work, we examined the applicability of λₘₐₓ estimation to time series of calcium oscillations experimentally recorded in individual human platelets. Our aim was to demonstrate that the structural complexity of oscillations varies depending on the agonist, and that the Lyapunov exponent could potentially serve as a quantitative metric for this purpose. However, the analysis revealed that the recorded signals exhibit pronounced nonstationarity—including amplitude drift and extended periods of minimal activity—leading to false-negative outcomes in Lyapunov analysis. The constructed two-dimensional phase portraits show shifting and “flattening” of trajectories, reflecting the evolution of the statistical properties of the signal rather than a stable attractor structure. As a result, λₘₐₓ computed for such data produces artefactual outcomes: visually similar time series yield opposite values, ranging from positive (indicating chaos) to negative (corresponding to stable dynamics). Thus, applying the Lyapunov exponent to raw experimental platelet calcium signals is inappropriate. Reliable results require prior removal of nonstationary components or the use of alternative analytical approaches.
Key words: Lyapunov exponent, calcium signaling, platelets.
Введение
Старший показатель Ляпунова (λₘₐₓ) — один из наиболее чувствительных и информативных инструментов для анализа динамических систем, который широко применяется для выявления и подтверждения хаотического поведения в их эволюции. Использование этого метода для изучения внутриклеточных процессов, в частности колебаний концентрации ионов кальция (Ca²⁺), позволило установить, что эти флуктуации не случайны, а отражают сложную нелинейную динамику системы регуляции ионного обмена. Ионы кальция играют важную роль вторичного мессенджера в клетках, кодируя широкий спектр физиологических процессов — от активации ферментов и экспрессии генов до секреции, мышечного сокращения и апоптоза. Проведенные ранее исследования показали, что кальциевые осцилляции имеют детерминированно-хаотическую структуру, что существенно изменило представления о механизмах клеточной сигнализации и открыло новые перспективы для понимания фундаментальных принципов функционирования живых клеток.
Одним из ключевых исследований, впервые продемонстрировавших хаотическую природу колебаний концентраций ионов кальция, является работа Houart и соавторов [1]. Авторы исследовали модель кальциевых осцилляций, возникающих в результате нелинейной обратной связи между концентрацией Ca²⁺ и метаболизмом инозитол-1,4,5-трифосфата (IP3). Они показали, что различным типам динамики — периодическому, квазипериодическому и хаотическому — соответствуют разные аттракторы в фазовом пространстве: предельный цикл, тор и странный аттрактор. В этой же работе впервые для Ca²⁺-сигнализации был вычислен старший показатель Ляпунова (λₘₐₓ), что количественно подтвердило наличие хаотического поведения в моделируемых осцилляциях.
Дальнейшее развитие идеи исследования кальциевой сигнализации методом оценки старшего показателя Ляпунова представлено в работе Rückl и соавторов [2]. Авторы провели численный расчёт λₘₐₓ для моделируемых сигналов и показали, что переход от регулярных к хаотическим режимам сопровождается изменением знака λₘₐₓ. Это стало количественным подтверждением детерминированной природы хаоса в системе внутриклеточного кальциевого обмена.
Прямое экспериментальное подтверждение этих выводов было получено в работе Kosuta и соавторов [3], где методику расчёта λₘₐₓ впервые применили к флуоресцентным данным, регистрирующим ядерные колебания Ca²⁺ в клетках растений. Авторы изучали, как общий сигнальный путь симбиоза у бобовых (Sym pathway), включающий белки DMI1, DMI2 и DMI3, различает сигналы от двух типов симбиотических партнёров: азотфиксирующих бактерий (ризобий) и арбускулярных микоризных грибов. Было установлено, что хаотическая динамика (подтвержденная положительным показателем Ляпунова) объясняет, как один и тот же сигнальный путь может быть гибко настроен на восприятие различных внешних стимулов при минимальных изменениях параметров системы.
В последние годы растет интерес к численному анализу «сложности» кальциевых сигналов, например, для сравнения реакций тромбоцитов человека на разные агонисты или условия активации. Для подобной задачи одним из инструментов потенциально может являться метод оценки старшего показателя Ляпунова, однако такое применение некорректно: λₘₐₓ предназначен не для классификации степени вариативности или информативности сигналов, а исключительно для диагностики детерминированного хаоса в стационарных временных рядах.
В реальных биологических экспериментах временные ряды кальциевых колебаний, как правило, нестационарны. Для них характерны дрейф базовой линии, постепенное изменение амплитуды и частоты пиков, а также переходы между различными режимами осцилляций. В таких условиях расчёт λₘₐₓ приводит к артефактным результатам, лишенным физического смысла. Для адекватного применения данного метода необходимо предварительно устранять нестационарности экспериментальных данных, как это было сделано, например, в работе [3].
Целью настоящей работы является теоретическое обоснование ограничений применения показателя Ляпунова для анализа кальциевых осцилляций на примере экспериментальных данных, полученных из тромбоцитов человека. На основе анализа временных рядов и соответствующих фазовых портретов показано, что нестационарность данных приводит к систематическому занижению λₘₐₓ, что делает данный показатель непригодным для количественной оценки структурной сложности сигнала.
Материалы и методы
Методика проведения эксперимента.
Для регистрации внутриклеточной концентрации Ca²⁺ тромбоциты окрашивались флуоресцентным кальций-чувствительным красителем Calbryte-590AM (Molecular probes, Eugene, State Oregon, США). Антитела VM64 к PECAM-1/CD31 (RRID:AB_782149) были предоставлены профессором А.В. Мазуровым (ФГБУ «НМИЦ кардиологии», Москва, РФ). Все остальные реагенты производства компании Sigma-Aldrich (San Diego, CA, США). Материалы для изготовления проточных камер поставлялись компаниями «ГемаКор» (Москва, Россия) и «МедСил» (Мытищи, Россия).
Буферные растворы.
Для работы с тромбоцитами в проточных камерах использовался модифицированный буфер Tyrode’s. Состав буфера: 137 мМ NaCl, 2,7 мМ KCl, 12 мМ NaHCO₃, 0,36 мМ NaH₂PO₄, 1 мМ MgCl₂, 2 мМ CaCl₂, 5 мМ HEPES (pH 7,35), 0,36% BSA и 1 г/л глюкозы. Буфер BRB-80 (80 мМ PIPES/KOH, pH 6,9, 1 мМ EGTA, 1 мМ MgCl₂) использовался для подготовки поверхности стекла и нанесения антител VM64 к PECAM-1/CD31.
Сборка проточной камеры.
Плоско-параллельная проточная камера собиралась на основе предметного стекла (с входным и выходным отверстиями на расстоянии 42 мм, трубочки прикреплялись к стеклу термоклеем) и покровного стекла, предварительно силанизированного для обеспечения адгезии белков. Более подробно метод сборки описан в [4]. Внутренний канал между стеклами формировался с помощью двусторонней клеевой ленты толщиной 0,2 мм. Готовая герметичная система позволяла контролируемо заменять растворы в камере. Для создания адгезивной подложки, не активирующей тромбоциты, в камеру последовательно вводили:
1)Раствор антител VM64 (40 мкг/мл) в буфере BRB-80 (инкубация 15 мин).
2)Раствор буфера BRB-80.
3)Раствор Pluronic F-127 (1%) (инкубация 10 мин).
4)Раствор буфера BRB-80.
5)Раствор буфера Тирода для финальной промывки.
Забор крови и этические нормы.
Для экспериментов использовалась цельная кровь здорового взрослого добровольца в течение 3 часов после забора. Кровь забирали в пробирку объёмом 1,6 мл, содержащую гирудин (> 525 антитромбиновых единиц, S-Monovette®, SARSTEDT AG & Co. KG, Nümbrecht, Germany). Исследования проводились в соответствии с Хельсинкской декларацией и одобрены этическим комитетом ЦТФ ПХФ РАН (решение №1 от 12.01.2018 г.). От донора было получено письменное информированное согласие.
Загрузка красителя в клетки.
Цельная кровь инкубировалась с 2мкМ CalBryte-590AM и апиразой (0.3 ед.акт./мл) в течение 30 минут при 37 °C. После инкубации кровь использовали немедленно.
Регистрация кальциевых ответов тромбоцитов.
Проточная камера устанавливалась на флуоресцентный TIRF-микроскоп. Кровь вводили в камеру при низкой скорости перфузии, обеспечивая адгезию тромбоцитов к антителам VM64. Далее несвязанные клетки смывали буфером Tyrode’s с адреналином 400 нг/мл. Регистрацию флуоресценции проводили в режиме TIRF с низкой интенсивностью возбуждения и частотой съёмки 12 кадров/с при постоянной перфузии. Сначала в течение 5 минут регистрировали базовую активацию тромбоцитов. Затем буфер заменяли на свежий, содержащий адреналин 400 нг/мл и 10 µM АДФ, и проводили съёмку кальциевых осцилляций на новом поле зрения. Для каждого тромбоцита, активированного АДФ, извлекали временные ряды интенсивности флуоресценции. Полученные сигналы обрабатывали путём вычитания фона и последующей нормализации.
Обработка экспериментальных данных.
Старший показатель Ляпунова λₘₐₓ является фундаментальным индикатором устойчивости динамических систем и позволяет дифференцировать регулярные и хаотические режимы. Применительно к кальциевым осцилляциям этот параметр служит инструментом для верификации наличия детерминированного хаоса, который отражает внутреннюю нелинейную динамику системы, а не случайные внешние воздействия. Данный методологический подход открывает возможность для более глубокого понимания механизмов самоорганизации и регуляции клеточных процессов, обусловленных кальциевыми сигналами.
Старший показатель Ляпунова λₘₐₓ описывает среднюю скорость расхождения близких траекторий в фазовом пространстве: положительное значение λₘₐₓ указывает на хаотический режим, нулевое — на периодические или квазипериодические колебания, отрицательное — на устойчивое равновесие. Подробное математическое описание данного подхода представлено в классических работах [5, 6].
При работе с экспериментальными данными, когда система уравнений, описывающая динамику системы, неизвестна, фазовое пространство восстанавливают методом временного встраивания (метод временной задержки) [7]. После фазовой реконструкции вычисляется средняя дивергенция соседних точек во времени, из которой по линейному участку зависимости определяется λₘₐₓ. В данной работе применялся стандартный алгоритм Розенштейна, реализованный в программной среде MatLab.
Корректность реконструкции фазового пространства в значительной степени определяется выбором двух ключевых параметров: временной задержки τ и размерности m, используемой для встраивания фазового пространства. В рамках данного исследования временную задержку τ определяли на основе временного масштаба, при котором автокорреляционная функция достигала значения, близкого к 1/e. Размерность фазового пространства была определена с использованием критерия ложных ближайших соседей [8].
Помимо вышеперечисленных шагов, экспериментальные временные ряды предварительно отфильтровывали от шумового фона. Для подавления высокочастотного шума без искажения формы и амплитуды кальциевых пиков применяли вейвлет-фильтрацию [9]. Также для увеличения точности расчётов проводили интерполяцию экспериментальных данных, удваивая количество точек.
Необходимо подчеркнуть, что корректная оценка старшего показателя Ляпунова возможна лишь при соблюдении ряда условий: временной ряд должен быть стационарным, достаточно длинным и содержать устойчивые осцилляции без перехода между режимами. При наличии дрейфа амплитуды, изменения частотных характеристик или значительного уровня шума, показатель Ляпунова утрачивает свою физическую интерпретируемость и не способен адекватно отражать внутреннюю динамику исследуемой системы. Следует отметить, что в работах [1, 2] анализировались теоретические осцилляции, лишенные шума, дрейфа и нестационарности. В работе [3] же исследовались экспериментальные данные, изначально обладавшие сильной нестационарностью, которая выражалась в виде плавного дрейфа базовой линии и в присутствии длинных участков без пиков. Однако, авторы в данной работе проводили многоступенчатую предварительную обработку исходных данных, которая позволила применить метод оценки λₘₐₓ для анализа.
Результаты
Характер экспериментальных данных
В ходе работы были проанализированы временные ряды кальциевых осцилляций, зарегистрированные в одиночных тромбоцитах человека. Наблюдения показали, что даже в идентичных экспериментальных условиях тромбоциты демонстрируют разнообразие динамических паттернов. На основе частоты и формы осцилляций все наблюдаемые режимы можно разделить на четыре условные группы.
Первая группа характеризуется редкими одиночными спайками и длительными участками отсутствия какой-либо динамики. Вторая группа демонстрирует регулярную динамику кальциевых пиков с умеренной вариабельностью амплитуды. Третья группа содержит более высокочастотную последовательность пиков и образование характерных кластеров. Последняя, четвертая группа характеризуется стабильно высоким уровнем интенсивности флуоресценции в конце съемки. Все четыре группы представлены на рисунке 1.
Несмотря на существенные различия между описанными типами динамики, все эти временные ряды обладают общей чертой — выраженной нестационарностью. Она проявляется в виде постепенного затухания амплитуды, спонтанной смены режимов колебаний и чередования активных сегментов с пассивными участками, лишёнными осцилляторной активности. Из четырех выделенных групп только вторая и третья могут быть использованы для применения метода оценки старшего показателя Ляпунова, при предварительной обработке сигнала как в работе [3].
Фазовые портреты
Для каждого из четырёх типов динамики были построены двухмерные фазовые портреты, показанные на рисунке 2. Данные графики позволяют визуализировать геометрию траектории в двумерном реконструированном пространстве состояний.
При переходе от первой группы к третьей траектории усложняются, и внешне портреты становятся похожими на структуру, характерную для квазирегулярных или хаотичнооподобных колебаний. Однако во всех случаях наблюдается одна важная особенность: дрейф фазовой траектории во времени. Вместо того чтобы формировать компактный аттрактор, как в работе [1, 3], траектория постепенно смещается в пространстве состояний вслед за изменением средней амплитуды сигнала. Такой дрейф приводит к тому, что соседние траектории, лежащие близко друг к другу в начальный момент времени, не расходятся экспоненциально, как должно быть в случае детерминированного хаоса, а постепенно сходятся в связи с уменьшением амплитуды и «сплющиванием» облака точек. Наиболее отчётливо это видно для четвертой группы. Ранний сегмент траектории образует крупную петлю, тогда как поздний сегмент сжимается в малую линейную область фазового пространства.
Следствие нестационарности: влияние на оценку λmax
В качестве проверки применимости метода для оценки сложности кальциевых осцилляций тромбоцитов были рассчитаны старшие показателя Ляпунова для двух временных рядов (см. Рисунок 3), полученных в одном эксперименте с добавлением 10 мкМ АДФ.
Несмотря на визуальную схожесть двух временных рядов мы в итоге получаем два диаметрально противоположных результата. Первый временной ряд (см. Рисунок 3(а)) имеет λₘₐₓ = 2.695, что формально свидетельствует о хаотичной динамике. В то же время внешне похожий сигнал (см. Рисунок 3(б)) имеет значение λₘₐₓ = -0.354. Из-за больших участков отсутствие осцилляторной активности оценка старшего показателя Ляпунова дает ложноотрицательный результат, указывающий на устойчивую равновесную динамику.
Обсуждение
Результаты проведённого исследования позволяют лучше понять границы применимости метода оценки старшего показателя Ляпунова (λₘₐₓ) для анализа экспериментальных биологических данных. Метод λₘₐₓ остается надежным и валидным инструментом в тех случаях, когда основная задача состоит в подтверждении наличия хаоса в экспериментальных данных, как показано в работах [1-3]. В таких системах временные ряды являются стационарными, а фазовое пространство формирует устойчивый аттрактор, необходимый для качественного применения метода.
Однако в случае анализа реальных данных, таких как кальциевые осцилляции в тромбоцитах, без проведения специализированной предварительной обработки, ситуация кардинально меняется. Ключевой проблемой является выраженная нестационарность сигналов, проявляющаяся в дрейфе амплитуды и в наличии протяженных периодов низкой активности. В этих условиях оценка λₘₐₓ теряет физическую интерпретируемость и перестает отображать внутреннюю вариативность или структурную сложность сигнала. Как показали наши результаты, визуально схожие временные ряды могут давать диаметрально противоположные значения — от положительных, указывающих на хаос, до отрицательных, соответствующих устойчивой динамике. Это указывает на методологическую несостоятельность данного подхода без предварительной нормализации и удаления нестационарности данных.
Таким образом, показатель Ляпунова не может быть использован в качестве количественной метрики «сложности» кальциевых осцилляций при сравнении различных агонистов или физиологических состояний. В условиях сильной нестационарности и зашумления данных более корректными являются методы, основанные на рекуррентном или энтропийном анализе.
Вклад автора: Концептуализация, методология, Л.С., С.В. и А.Н.; программное обеспечение, Л.С.; валидация, формальный анализ, Л.С., С.В. и А.Н.; ресурсы, курирование данных, А.Н.; письменность – подготовка первоначального черновика, Л.С.; написание – рецензирование и редактирование, Л.С., С.В.; визуализация, Л.С.; администрация проекта, приобретение финансирования, А.Н. Все авторы прочитали и согласились с опубликованной версией рукописи.
Финансирование: Это исследование финансировалось Российским научным фондом, номер гранта 23-74-00057.
Конфликт интересов: Авторы заявляют об отсутствии конфликта интересов.
Список литературы
1.Houart, G., Dupont, G., & Goldbeter, A. (1999). Bursting, chaos and birhythmicity originating from self-modulation of the inositol 1,4,5-trisphosphate signal in a model for intracellular Ca²⁺ oscillations. Bulletin of Mathematical Biology, 61(3), 507–530.
2.Perc, M., & Marhl, M. (2003). Sensitivity and flexibility of regular and chaotic calcium oscillations. Biophysical Chemistry, 104(2), 509–522.
3.Kosuta, S., Held, M., Hossain, M. S., et al. (2008). Differential and chaotic calcium signatures in the symbiosis signaling pathway of legumes. Proceedings of the National Academy of Sciences, 105(28), 9823–9828. https://doi.org/10.1073/pnas.0803496105
4.Protocols.io. (n.d.). Cover glass silanization and preparation of flow chamber (Version 1). https://doi.org/10.17504/protocols.io.n92ld6ny7g5b/v1.
5.Wolf, A., Swift, J. B., Swinney, H. L., & Vastano, J. A. (1985). Determining Lyapunov exponents from a time series. Physica D: Nonlinear Phenomena, 16(3), 285–317.
6.Rosenstein, M. T., Collins, J. J., & De Luca, C. J. (1993). A practical method for calculating largest Lyapunov exponents from small data sets. Physica D: Nonlinear Phenomena, 65(1–2), 117–134.
7.Takens, F. (1981/2006). Detecting strange attractors in turbulence. In Dynamical Systems and Turbulence, Warwick 1980 (pp. 366–381). Springer. (Original work presented 1979/80).
8.Kennel, M. B., Brown, R., & Abarbanel, H. D. I. (1992). Determining embedding dimension for phase-space reconstruction using a geometrical construction. Physical Review A, 45(6), 3403–3411.
9.Mallat, S. G. (1989). A theory for multiresolution signal decomposition: The wavelet representation. IEEE Transactions on Pattern Analysis and Machine Intelligence, 11(7), 674–693. https://doi.org/10.1109/34.192463.