<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Publishing DTD v1.3 20210610//EN" "JATS-journalpublishing1-3.dtd">
<article article-type="research-article" dtd-version="1.3" xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xml:lang="ru"><front><journal-meta><journal-id journal-id-type="publisher-id">vavilov</journal-id><journal-title-group><journal-title xml:lang="ru">Вавиловский журнал генетики и селекции</journal-title><trans-title-group xml:lang="en"><trans-title>Vavilov Journal of Genetics and Breeding</trans-title></trans-title-group></journal-title-group><issn pub-type="epub">2500-3259</issn><publisher><publisher-name>Institute of Cytology and Genetics of Siberian Branch of the RAS</publisher-name></publisher></journal-meta><article-meta><article-id custom-type="elpub" pub-id-type="custom">vavilov-195</article-id><article-categories><subj-group subj-group-type="heading"><subject>Research Article</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="ru"><subject>Статьи</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="en"><subject>Articles</subject></subj-group></article-categories><title-group><article-title>ГЕОМЕТРИЧЕСКИЕ СВОЙСТВА ЭВОЛЮЦИОННЫХ ДИСТАНЦИЙ</article-title><trans-title-group xml:lang="en"><trans-title>GEOMETRIC PROPERTIES OF EVOLUTIONARY DISTANCES</trans-title></trans-title-group></title-group><contrib-group><contrib contrib-type="author" corresp="yes"><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Ефимов</surname><given-names>В. М.</given-names></name><name name-style="western" xml:lang="en"><surname>Efimov</surname><given-names>V. M.</given-names></name></name-alternatives><email xlink:type="simple">efimov@bionet.nsc.ru</email><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Мельчакова</surname><given-names>М. А.</given-names></name><name name-style="western" xml:lang="en"><surname>Melchakova</surname><given-names>M. A.</given-names></name></name-alternatives><xref ref-type="aff" rid="aff-2"/></contrib><contrib contrib-type="author" corresp="yes"><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Ковалева</surname><given-names>В. Ю.</given-names></name><name name-style="western" xml:lang="en"><surname>Kovaleva</surname><given-names>V. Yu.</given-names></name></name-alternatives><xref ref-type="aff" rid="aff-3"/></contrib></contrib-group><aff-alternatives id="aff-1"><aff xml:lang="ru">Федеральное государственное бюджетное учреждение науки Институт цитологии и генетики Сибирского отделения Российской академии наук, Новосибирск, Россия&#13;
Федеральное государственное бюджетное учреждение науки Институт систематики&#13;
и экологии животных Сибирского отделения Российской академии наук,&#13;
Новосибирск, Россия&#13;
Томский национальный исследовательский государственный университет, Томск, Россия<country>Россия</country></aff><aff xml:lang="en">Institute of Cytology and Genetics SB RAS, Novosibirsk, Russia&#13;
Institute of Systematics and Ecology of Animals SB RAS, Novosibirsk, Russia&#13;
Tomsk National Research State University, Tomsk, Russia<country>Russian Federation</country></aff></aff-alternatives><aff-alternatives id="aff-2"><aff xml:lang="ru">Федеральное государственное бюджетное образовательное учреждение высшего профессионального образования "Новосибирский национальный исследовательский государственный университет" (НГУ)<country>Россия</country></aff><aff xml:lang="en">Novosibirsk National Research State University, Novosibirsk, Russia<country>Russian Federation</country></aff></aff-alternatives><aff-alternatives id="aff-3"><aff xml:lang="ru">Федеральное государственное бюджетное учреждение науки Институт систематики&#13;
и экологии животных Сибирского отделения Российской академии наук,&#13;
Новосибирск, Россия<country>Россия</country></aff><aff xml:lang="en">Institute of Systematics and Ecology of Animals SB RAS, Novosibirsk, Russia<country>Russian Federation</country></aff></aff-alternatives><pub-date pub-type="collection"><year>2013</year></pub-date><pub-date pub-type="epub"><day>11</day><month>01</month><year>2015</year></pub-date><volume>17</volume><issue>4/1</issue><fpage>714</fpage><lpage>723</lpage><permissions><copyright-statement>Copyright &amp;#x00A9; Ефимов В.М., Мельчакова М.А., Ковалева В.Ю., 2015</copyright-statement><copyright-year>2015</copyright-year><copyright-holder xml:lang="ru">Ефимов В.М., Мельчакова М.А., Ковалева В.Ю.</copyright-holder><copyright-holder xml:lang="en">Efimov V.M., Melchakova M.A., Kovaleva V.Y.</copyright-holder><license license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>This work is licensed under a Creative Commons Attribution 4.0 License.</license-p></license></permissions><self-uri xlink:href="https://vavilov.elpub.ru/jour/article/view/195">https://vavilov.elpub.ru/jour/article/view/195</self-uri><abstract><p>Одним из способов изучения изменчивости биологических объектов является геометризация задачи: представление объектов точками в многомерном пространстве таким образом, чтобы расстояния между точками как можно лучше соответствовали различиям между объектами. Если различия между объектами являются евклидовыми расстояниями, то эта задача (с точностью до переноса, поворота и отражения) решается методами метрического шкалирования. Рассмотрены метрические свойства некоторых широко известных эволюционных дистанций для нуклеотидных последовательностей. Показано, что расстояния Джукса–Кантора и Кимуры не являются метриками. Введено новое расстояние, аналог расстояния Кимуры, – PQ-дистанция. Показано, что p-дистанция и PQ-дистанция являются квадратами евклидовых метрик, названных в статье Ep-дистанцией и EPQ-дистанцией соответственно. Применимость EPQ-дистанции проиллюстрирована на взятом из GenBank множестве нуклеотидных последовательностей цитохрома b 12 видов мышевидных грызунов Западной Сибири и Алтая и сравнена с результатами использования LogDet-расстояния.</p></abstract><trans-abstract xml:lang="en"><p>One way to study the variability of biologic objects is their geometrization: the objects are presented by points in a multidimensional space in such a way that the distances between the points would be best consistent with the dissimilarities between objects. If the dissimilarities between the objects are Euclidean distances, this task (up to translation, rotation and reflection) is solved by metric scaling. We consider the metric properties of some well-known evolutionary distances of nucleotide sequences. It is shown that the Jukes-Cantor and Kimura distances are not metrics. We introduce a new Kimura distance analog, the PQdistance. It is shown that the p and PQ distances are the squares of Euclidean metrics named Ep-distance and EPQ-distance, respectively. The applicability of the EPQ distance is illustrated by the example of a cytochrome b sequence set of 12 rodent species from West Siberia and Altai, taken from the GenBank, and compared with the results of the use of the LogDet-distance.</p></trans-abstract><kwd-group xml:lang="ru"><kwd>нуклеотидные последовательности</kwd><kwd>модели эволюции</kwd><kwd>филогенетические реконструкции</kwd><kwd>генетические расстояния</kwd><kwd>геометризация</kwd><kwd>зоологическая систематика</kwd></kwd-group><kwd-group xml:lang="en"><kwd>nucleotide sequences</kwd><kwd>evolution models</kwd><kwd>phylogenetic reconstructions</kwd><kwd>genetic distances</kwd><kwd>geometrization</kwd><kwd>zoological systematics</kwd></kwd-group><funding-group xml:lang="ru"><funding-statement>Программа Президиума РАН – Интеграция РАН (6.8 и 28), Президента РФ (НШ-52782012.4), Интеграционный проект СО РАН (18.13), Проект фундаментальных исследований СО РАН и УрО РАН (70) и РФФИ (11-04-00141а, 13-07-00315а)</funding-statement></funding-group></article-meta></front><back><ref-list><title>References</title><ref id="cit1"><label>1</label><citation-alternatives><mixed-citation xml:lang="ru">Абрамсон Н.И., Лисовский А.А. Полевочьи // Млекопитающие России: систематико-географический справочник / Ред. И.Я. Павлинов, А.А. Лисовский. М.: КМК, 2012. С. 220–276.</mixed-citation><mixed-citation xml:lang="en">Абрамсон Н.И., Лисовский А.А. Полевочьи // Млекопитающие России: систематико-географический справочник / Ред. И.Я. Павлинов, А.А. Лисовский. М.: КМК, 2012. С. 220–276.</mixed-citation></citation-alternatives></ref><ref id="cit2"><label>2</label><citation-alternatives><mixed-citation xml:lang="ru">Ефимов В.М., Штайгер И.А., Полунин Д.А. и др. Программно-алгоритмический комплекс для многомерного анализа микрочиповых данных // II Междунар. науч.-практ. конф. «Постгеномные методы анализа в биологии, лабораторной и клинической медицине: геномика, протеомика, биоинформатика». Новосибирск, Россия, 14–17 ноября, 2011. С. 120.</mixed-citation><mixed-citation xml:lang="en">Ефимов В.М., Штайгер И.А., Полунин Д.А. и др. Программно-алгоритмический комплекс для многомерного анализа микрочиповых данных // II Междунар. науч.-практ. конф. «Постгеномные методы анализа в биологии, лабораторной и клинической медицине: геномика, протеомика, биоинформатика». Новосибирск, Россия, 14–17 ноября, 2011. С. 120.</mixed-citation></citation-alternatives></ref><ref id="cit3"><label>3</label><citation-alternatives><mixed-citation xml:lang="ru">Ковалева В.Ю., Абрамов С.А., Дупал Т.А. и др. Анализ соответствия и комбинирование молекулярно-генетических и морфологических данных в зоологической систематике // Изв. РАН. Сер. биол. 2012. Вып. 4. С. 404–414.</mixed-citation><mixed-citation xml:lang="en">Ковалева В.Ю., Абрамов С.А., Дупал Т.А. и др. Анализ соответствия и комбинирование молекулярно-генетических и морфологических данных в зоологической систематике // Изв. РАН. Сер. биол. 2012. Вып. 4. С. 404–414.</mixed-citation></citation-alternatives></ref><ref id="cit4"><label>4</label><citation-alternatives><mixed-citation xml:lang="ru">Ковалева В.Ю., Литвинов Ю.Н., Ефимов В.М. Землеройки (Soricidae, Eulipotyphla) Сибири и Дальнего Востока: комбинирование и поиск конгруэнтности молекулярно-генетических и морфологических данных // Зоол. журнал. 2013. Т. 92. Вып. 11. С. 1–15.</mixed-citation><mixed-citation xml:lang="en">Ковалева В.Ю., Литвинов Ю.Н., Ефимов В.М. Землеройки (Soricidae, Eulipotyphla) Сибири и Дальнего Востока: комбинирование и поиск конгруэнтности молекулярно-генетических и морфологических данных // Зоол. журнал. 2013. Т. 92. Вып. 11. С. 1–15.</mixed-citation></citation-alternatives></ref><ref id="cit5"><label>5</label><citation-alternatives><mixed-citation xml:lang="ru">Лукашов В.В. Молекулярная эволюция и филогенетический анализ. М.: БИНОМ, Лаборатория знаний, 2009. 256 с.</mixed-citation><mixed-citation xml:lang="en">Лукашов В.В. Молекулярная эволюция и филогенетический анализ. М.: БИНОМ, Лаборатория знаний, 2009. 256 с.</mixed-citation></citation-alternatives></ref><ref id="cit6"><label>6</label><citation-alternatives><mixed-citation xml:lang="ru">Мельчакова М.А. Геометрические аналоги генетических расстояний: Магистерская диссертация. Новосибирск: НГУ, 2013. 33 с.</mixed-citation><mixed-citation xml:lang="en">Мельчакова М.А. Геометрические аналоги генетических расстояний: Магистерская диссертация. Новосибирск: НГУ, 2013. 33 с.</mixed-citation></citation-alternatives></ref><ref id="cit7"><label>7</label><citation-alternatives><mixed-citation xml:lang="ru">Мельчакова М.А., Ефимов В.М. О метрических свойствах эволюционных расстояний // Тез. докл. конф. «Соврем. пробл. математики, информатики и биоинформатики», посвящ. 100-летию А.А. Ляпунова, 11–14 окт. 2011 г. Новосибирск, 2011. С. 88.</mixed-citation><mixed-citation xml:lang="en">Мельчакова М.А., Ефимов В.М. О метрических свойствах эволюционных расстояний // Тез. докл. конф. «Соврем. пробл. математики, информатики и биоинформатики», посвящ. 100-летию А.А. Ляпунова, 11–14 окт. 2011 г. Новосибирск, 2011. С. 88.</mixed-citation></citation-alternatives></ref><ref id="cit8"><label>8</label><citation-alternatives><mixed-citation xml:lang="ru">Млекопитающие России: систематико-географический справочник / Ред. И.Я. Павлинов, А.А. Лисовский. М.: КМК, 2012. 604 с.</mixed-citation><mixed-citation xml:lang="en">Млекопитающие России: систематико-географический справочник / Ред. И.Я. Павлинов, А.А. Лисовский. М.: КМК, 2012. 604 с.</mixed-citation></citation-alternatives></ref><ref id="cit9"><label>9</label><citation-alternatives><mixed-citation xml:lang="ru">Ней М., Кумар С. Молекулярная эволюция и филогенетика. Киев: КВЩ, 2004. 418 с.</mixed-citation><mixed-citation xml:lang="en">Ней М., Кумар С. Молекулярная эволюция и филогенетика. Киев: КВЩ, 2004. 418 с.</mixed-citation></citation-alternatives></ref><ref id="cit10"><label>10</label><citation-alternatives><mixed-citation xml:lang="ru">Петровский А.Б. Пространства множеств и мультимножеств. М.: Едиториал УРСС, 2003. 248 с.</mixed-citation><mixed-citation xml:lang="en">Петровский А.Б. Пространства множеств и мультимножеств. М.: Едиториал УРСС, 2003. 248 с.</mixed-citation></citation-alternatives></ref><ref id="cit11"><label>11</label><citation-alternatives><mixed-citation xml:lang="ru">Felsenstein J. Inferring phylogenies. Sunderland: Sinauer Associates, 2003. 664 p.</mixed-citation><mixed-citation xml:lang="en">Felsenstein J. Inferring phylogenies. Sunderland: Sinauer Associates, 2003. 664 p.</mixed-citation></citation-alternatives></ref><ref id="cit12"><label>12</label><citation-alternatives><mixed-citation xml:lang="ru">Hamming R.W. Error detecting and error correcting codes // Bell Syst. Tech. J. 1950. V. 29. Nо. 2. P. 147–160.</mixed-citation><mixed-citation xml:lang="en">Hamming R.W. Error detecting and error correcting codes // Bell Syst. Tech. J. 1950. V. 29. Nо. 2. P. 147–160.</mixed-citation></citation-alternatives></ref><ref id="cit13"><label>13</label><citation-alternatives><mixed-citation xml:lang="ru">Jukes T.H., Cantor C.R. Evolution of protein molecules // Mammalian Protein Metabolism / Ed. H.N. Munro. N.Y.: Acad. Press, 1969. P. 21–132.</mixed-citation><mixed-citation xml:lang="en">Jukes T.H., Cantor C.R. Evolution of protein molecules // Mammalian Protein Metabolism / Ed. H.N. Munro. N.Y.: Acad. Press, 1969. P. 21–132.</mixed-citation></citation-alternatives></ref><ref id="cit14"><label>14</label><citation-alternatives><mixed-citation xml:lang="ru">Kimura M. A simple method for estimating evolutionary rates of base substitutions through comparative studies of nucleotide sequences // J. Mol. Evol. 1980. V. 16. Nо. 2. P. 111–120.</mixed-citation><mixed-citation xml:lang="en">Kimura M. A simple method for estimating evolutionary rates of base substitutions through comparative studies of nucleotide sequences // J. Mol. Evol. 1980. V. 16. Nо. 2. P. 111–120.</mixed-citation></citation-alternatives></ref><ref id="cit15"><label>15</label><citation-alternatives><mixed-citation xml:lang="ru">Klingenberg C.P., Ekau W. A combined morphometric and phylogenetic analysis of an ecomorphological trend: pelagization in Antarctic fishes (Perciformes: Nototheniidae) // Biol. J. Linn. Soc. 1996. V. 59. Nо. 2. P. 143–177.</mixed-citation><mixed-citation xml:lang="en">Klingenberg C.P., Ekau W. A combined morphometric and phylogenetic analysis of an ecomorphological trend: pelagization in Antarctic fishes (Perciformes: Nototheniidae) // Biol. J. Linn. Soc. 1996. V. 59. Nо. 2. P. 143–177.</mixed-citation></citation-alternatives></ref><ref id="cit16"><label>16</label><citation-alternatives><mixed-citation xml:lang="ru">Klingenberg C.P., Gidaszewski N.A. Testing and quantifying phylogenetic signals and homoplasy in morphometric data // Syst. Biol. 2010. V. 59. Nо. 3. P. 245–261.</mixed-citation><mixed-citation xml:lang="en">Klingenberg C.P., Gidaszewski N.A. Testing and quantifying phylogenetic signals and homoplasy in morphometric data // Syst. Biol. 2010. V. 59. Nо. 3. P. 245–261.</mixed-citation></citation-alternatives></ref><ref id="cit17"><label>17</label><citation-alternatives><mixed-citation xml:lang="ru">Lockhart P.J., Steel M.A., Hendy M.D., Penny D. Recovering evolutionary trees under a more realistic model of sequence evolution // Mol. Biol. Evol. 1994. V. 11. Nо. 4. P. 605–612.</mixed-citation><mixed-citation xml:lang="en">Lockhart P.J., Steel M.A., Hendy M.D., Penny D. Recovering evolutionary trees under a more realistic model of sequence evolution // Mol. Biol. Evol. 1994. V. 11. Nо. 4. P. 605–612.</mixed-citation></citation-alternatives></ref><ref id="cit18"><label>18</label><citation-alternatives><mixed-citation xml:lang="ru">Mammal species of the world: a taxonomic and geographic reference / Eds D.E. Wilson, D.M. Reeder. 3rd ed. Baltimore: J. Hopkins Univ. Press, 2005. 2142 p. Available at http://www.departments.bucknell.edu/biology/resources/msw3/ browse.asp</mixed-citation><mixed-citation xml:lang="en">Mammal species of the world: a taxonomic and geographic reference / Eds D.E. Wilson, D.M. Reeder. 3rd ed. Baltimore: J. Hopkins Univ. Press, 2005. 2142 p. Available at http://www.departments.bucknell.edu/biology/resources/msw3/ browse.asp</mixed-citation></citation-alternatives></ref><ref id="cit19"><label>19</label><citation-alternatives><mixed-citation xml:lang="ru">Mantel N. The detection of disease clustering and a generalized regression approach // Cancer Res. 1967. V. 27. P. 209–220.</mixed-citation><mixed-citation xml:lang="en">Mantel N. The detection of disease clustering and a generalized regression approach // Cancer Res. 1967. V. 27. P. 209–220.</mixed-citation></citation-alternatives></ref><ref id="cit20"><label>20</label><citation-alternatives><mixed-citation xml:lang="ru">Mantel N., Valand R.S. A technique of nonparametric multivariate analysis // Biometrics. 1970. V. 26. P. 547–558.</mixed-citation><mixed-citation xml:lang="en">Mantel N., Valand R.S. A technique of nonparametric multivariate analysis // Biometrics. 1970. V. 26. P. 547–558.</mixed-citation></citation-alternatives></ref><ref id="cit21"><label>21</label><citation-alternatives><mixed-citation xml:lang="ru">Polly P.D., Lawing A.M., Fabre A.C., Goswami A. Phylogenetic principal components analysis and geometric morphometrics // Hystrix, the Italian J. Mammalogy. 2013. V. 24. Nо. 1. P. 1–9.</mixed-citation><mixed-citation xml:lang="en">Polly P.D., Lawing A.M., Fabre A.C., Goswami A. Phylogenetic principal components analysis and geometric morphometrics // Hystrix, the Italian J. Mammalogy. 2013. V. 24. Nо. 1. P. 1–9.</mixed-citation></citation-alternatives></ref><ref id="cit22"><label>22</label><citation-alternatives><mixed-citation xml:lang="ru">Revell L.J. Size-correction and principal components for interspeciﬁc comparative studies // Evolution. 2009. V. 63. P. 3258–3268.</mixed-citation><mixed-citation xml:lang="en">Revell L.J. Size-correction and principal components for interspeciﬁc comparative studies // Evolution. 2009. V. 63. P. 3258–3268.</mixed-citation></citation-alternatives></ref><ref id="cit23"><label>23</label><citation-alternatives><mixed-citation xml:lang="ru">Shepard R.N. The analysis of proximities: multidimensional scaling with an unknown distance function. 1 // Psyсhometrika. 1962. V. 27. Nо. 2. P. 125–140.</mixed-citation><mixed-citation xml:lang="en">Shepard R.N. The analysis of proximities: multidimensional scaling with an unknown distance function. 1 // Psyсhometrika. 1962. V. 27. Nо. 2. P. 125–140.</mixed-citation></citation-alternatives></ref><ref id="cit24"><label>24</label><citation-alternatives><mixed-citation xml:lang="ru">Tamura K., Peterson D., Peterson N. et al. MEGA5: molecular evolutionary genetics analysis using maximum likelihood; evolutionary distance; and maximum parsimony methods // Mol. Biol. Evol. 2011. V. 28. P. 2731–2739.</mixed-citation><mixed-citation xml:lang="en">Tamura K., Peterson D., Peterson N. et al. MEGA5: molecular evolutionary genetics analysis using maximum likelihood; evolutionary distance; and maximum parsimony methods // Mol. Biol. Evol. 2011. V. 28. P. 2731–2739.</mixed-citation></citation-alternatives></ref><ref id="cit25"><label>25</label><citation-alternatives><mixed-citation xml:lang="ru">Torgerson W.S. Multidimensional scaling: I. Theory and method // Psychometrika. 1952. V. 17. Nо. 4. P. 401–419.</mixed-citation><mixed-citation xml:lang="en">Torgerson W.S. Multidimensional scaling: I. Theory and method // Psychometrika. 1952. V. 17. Nо. 4. P. 401–419.</mixed-citation></citation-alternatives></ref><ref id="cit26"><label>26</label><citation-alternatives><mixed-citation xml:lang="ru">Zharkikh A. Estimation of evolutionary distances between nucleotide sequences // J. Mol. Еvol. 1994. V. 39. P. 315–329.</mixed-citation><mixed-citation xml:lang="en">Zharkikh A. Estimation of evolutionary distances between nucleotide sequences // J. Mol. Еvol. 1994. V. 39. P. 315–329.</mixed-citation></citation-alternatives></ref></ref-list><fn-group><fn fn-type="conflict"><p>The authors declare that there are no conflicts of interest present.</p></fn></fn-group></back></article>
