Ծնվել է Ալեքսանդրապոլում (այժմ՝ Գյումրի): Մերկուրովները եղել են հունադավան (քաղկեդոնական) հայերից, որոնք սովորաբար կոչվել են «ուռումներ» (կամ՝ «ծաթեր»)։ Չնայած պաշտոնական փաստաթղթերում հույն արձանագրվելուն, քանդակագործը միշտ նշել է իր հայկական ծագումը և իր արվեստի սկզբնավորման հայկական ազդակները։ Իր իսկ վկայությամբ, Ջիվանին է նրա մեջ արթնացրել արվեստի սերը, քանդակագործ դառնալուն նպաստել են Ալեքսանդրապոլի եկեղեցիների և շիրմաքարերի քանդակազարդումները, քարգործ և ատաղձագործ վարպետների մոտ է նա ստեղծել իր առաջին քանդակները, տեղի վարպետներից սովորել պղնձի մշակման նրանց ուրույն եղանակը, որը և հետագայում օգտագործել է իր որոշ պղնձակոփ գործերում։ Նախնական կրթությունն ստացել է Լենինականի յոթնամյա արհեստագործական և Թիֆլիսի ռեալական ուսումնարաններում։ 1901թ. սովորել է Կիևի պոլիտեխնիկական ինստիտուտում, 1902թ.՝ Ցյուրիխի համալսարանի փիլիսոփայության ֆակուլտետում, 1902-05թթ՝ Մյունխենի Գեղարվեստի ակադեմիայում։ Իտալիայում որոշ ժամանակ մնալուց հետո՝ 1905թ. վերջերին տեղափոխվել է Փարիզ, որտեղ ուսումնասիրել է հին արևելյան և հունական անտիկ արձանագործությունը, շփումներ ունեցել Օգյուստ Ռոդենի հետ։ 1910թ. վերջնականապես հաստատվել է Մոսկվայում։ Հեղինակել է տարբեր բնույթի, ժանրերի և չափերի մի շարք բովանդակալից ու բարձրարվեստ կերտվածքներ։ Նրա նախահեղափոխական շրջանի ստեղծագործությունն աչքի է ընկնում եգիպտական մոնումենտալիզմին հատուկ ձևերի խստությամբ (Ֆ.Դոստոևսկու արձանը, գրանիտ, 1911-13թթ, Մոսկվայում կանգնեցվել է 1918թ.), սրված հոգեվիճակների վերարտադրմամբ («Լ.Ն.Տոլստոյ», մարմար, 1911-48թթ, Տրետյակովյան պատկերասրահ, Մոսկվա), ոճավորումով։ Խորհրդային իշխանության առաջին տարիներից դարձել է մոնումենտալ պրոպագանդայի լենինյան պլանի ամենաակտիվ իրականացնողներից մեկը, ստեղծել Կ.Մարքսի (գրանիտ, 1921թ., Սիմբիրսկ), Կ.Ա.Տիմիրյագևի (գրանիտ, 1922-23թթ, Մոսկվա) հուշարձանները։ Նրա ստեղծագործության մեջ մեծ տեղ է հատկացված Վ.Լենինի կերպարին, որի առավել ակնառու նմուշներից են եղել ԽՍՀՄ Գերագույն սովետի նիստերի դահլիճում դրված արձանը (մարմար, 1939թ., ԽՍՀՄ պետական մրցանակ, 1941թ.), 16 մետրանոց գրանիտե մոնումենտը (1937թ.) Մոսկվայի անվան ջրանցքի գլխամասում, 9 մետրանոց պղնձակոփ մոնումենտը Երևանի գլխավոր հրապարակում (1940թ., ճարտարապետներներ՝ Ն.Փարեմուզովա, Լ.Վարդանյան)։ Քանդակագործն են պատկանում նաև Ստեփան Շահումյանի գրանիտե հուշարձանը Երևանում (1931թ.), Մ.Լոմոնոսովի (գիպս, 1944թ., Մոսկվա), Ֆ.Ձերժինսկու (կոփածո պղինձ, 1948թ., Զերժինսկ), Ի.Ստալինի (Մոսկվայում, Երևանում՝ կոփածո պղինձ, 1950թ., ԽՍՀՄ պետական մրցանակ, 1951թ.) մոնումենտալ արձանները։ Նրա հեղինակած նշանակալից կոթողներից են եղել բարդ ու արտահայտիչ խմբավորում ունեցող և ողբերգական պաթոսով առլեցուն «Բաքվի 26 կոմիսարների գնդակահարումը» բարձրաքանդակը (գրանիտ, 1924-46թթ, տեղադրվել է 1958թ., Բաքու) և «Առաջնորդի մահը» խմբաքանդակը (գրանիտ, 1927-47թթ, տեղադրվել է 1958թ., մերձմոսկովյան Գորկի ավանում)։ Աշխատել է նաև հաստոցային քանդակագործության բնագավառում, որի լավագույն արտահայտությունները դրսևորվել են դիմաքանդակի ժանրում («Մ.Կ.Խոլմոգորով», գիպս, 1935թ., «Կ.Է.Ցիոլկովսկի», կարմիր գրանիտ, 1940թ., «Ա.Կ.Տոլստոյ», գրանիտ, 1945թ. և այլն)։ Եղել է նաև նշանավոր դիմակահան (Լ.Տոլստոյ, Վ.Լենին և ուրիշներ)։ Նրա տեղը հայ կերպարվեստում նշանակալի է։ Որտեղ որ ապրել և ստեղծագործել է, միշտ կապեր է պահպանել տեղի հայկական միջավայրի և Հայաստանի հետ։ Դրանք առանձնապես ընդլայնվել են ու արգասավոր դարձել Հայաստանում խորհրդային կարգերի հաստատումից հետո։ Նրա հանած առաջին դիմակը Խրիմյան Հայրիկինն էր (1907թ.), նա է հանել Հովհաննես Թումանյանի դիմակը։ Վարպետի դիմաքանդակների շարքում նկատելի տեղ ունեն հայերի կերպարները («Դ.Մերկուրով», գիպս, 1904թ., «Ս.Շահումյան», գրանիտ, 1929թ., Տրետյակովյան պատկերասրահ, «Հ.Թումանյան», կոփածո պղինձ, 1930թ.)։ Մեծապես նպաստել է հայ քանդակագործության գաղափարական ու պրոֆեսիոնալ առաջընթացին։ Սերտ են եղել նրա և հայրենի Գյումրիի փոխադարձ կապերը, որի համար նրան շնորհվել է Գյումրիի պատվավոր քաղաքացու կոչում, և ի հավերժացումն մեծ արվեստագետի հիշատակի տեղի նկարչական դպրոցը 1947թ. անվանակոչվել է նրա անունով։ 1947թ-ից եղել է ԽՍՀՄ Գեղարվեստի ակադեմիայի իսկական անդամ: 1943թ. արժանացել է ԽՍՀՄ, 1950թ.՝ Հայաստանի ժողովրդական նկարչի կոչման։ Մահացել է Մոսկվայում: