Le calife en personne alla à la plaine de Jurf pour dire adieu à chaque brigade partant pour la Syrie et leur donna l'ordre suivant: "Hommes, j'ai dix ordres à vous donner, que vous devez observer loyalement: Ne trompez personne et ne volez personne; Ne trahissez personne et ne mutilez personne; ne tuez pas les enfants, ni les femmes, ni les personnes âgées; n'écorcez pas et ne brûlez pas les palmiers; Ne coupez pas les arbres fruitiez et ne détruisez pas les champs, les troupeaux ni les chameaux excepter pour avoir de la nourriture. Vous rencontrerez des hommes vivant dans des cellules; laissez les tranquille à ce à quoi ils se sont dévoués...."

Des instructions à caractère plus général furent aussi données au chef de fournir un bon gouvernement aux peuples envahis, et de respecter sa promesse; de ne pas trop rester à chaque fois, et de toujours être franc; de respecter les ambassadeurs, de ne pas les détenir longtemps de peur qu'ils ne deviennent des ennemis; de préserver le secret quand c'est nécessaire, de faire des tour de garde la nuit et le jour et de ne jamais être lâche.

Trois divisions formées de 5.000 soldats chacune furent envoyées sur le front Syrien sous le commandement de Shurjil Ibn Hasana, 'Amr Ibn Al 'Aas, et Yazid Ibn Abu Sufyan. On confia aussi à Abu 'Ubaidah le commandant suprême du front syrien le commandement d'une division séparée. Mais les Byzantins avaient rassemblé une force dans le voisinage de Yarmuk qui était dix fois plus forte que les musulmans. Cela nécessita le transfert vers le front de Khalid Ibn Walid. Le sage Calife Abu Bakr  ordonna à Khalid de partir vite pour le front syrien avec la moitié de ses forces, laissant la seconde moitié en Irak sous le commandement de Al-Muthanna. D'après les historiens Tabari, Muqaddasi et Balladhuri, le Calife avait désigné Khalid comme commandant suprême des forces musulmanes sur le front syrien. La marche éclair de Khalid et de ses hommes dans un désert sans route, sans eau et impassable entre l'Irak et la Syrie est un des exploits les plus audacieux de l'histoire. Il traversa le désert en cinq jours ce qui lui valu l'éminence de porter le nom de 'Thanniyat ul Ukab' (le passage de l'aigle).

L'armée musulmane en Syrie fut divisée en quatre corps qui opéraient sous le commandement de quatre généraux dans différents secteurs. Abu 'Ubaidah commandait la division des Homs dont le quartier général était à Jabia, 'Amr Ibn Al 'Aas commandait la division de Damas et Sharjil ibn Hassana commandait la division opérant au Jordan. Sur le conseil de 'Omar , le calife Abu Bakr ordonna la concentration de la totalité de la force musulmane à Jaulan près de Yarmuk en avril 634 afin d'y rencontrer un ennemi dont les ressources, les richesses et l'approvisionnement en matériel de combat étaient illimités. Les Romains aussi rassemblèrent tous leurs corps et l'énorme armée romaine campa dans le méandre semi-circulaire de la rivière Yarmuk protégée sur trois cotés par la rivière et ils considéraient que c'était un lieu idéal pour camper. L'armée musulmane arriva plus tard et occupa le col de la bouteille. Les Romains réalisèrent leur erreur mais c'était trop tard. Les deux armées se regardaient depuis deux mois quand Khalid arriva sur les lieux. On lui confia le commandement suprême des forces musulmanes. D'après toutes les sources historiques connues, y compris Tabari, l'armée d'Héraclius comportait 240.000 hommes alors que les musulmans n'étaient que 40.000. L'armée romaine était commandée par de célèbres généraux et guerriers, dont Théodore le Sakkellarius, Bannes et Jarja (George).

Khalid Ibn Walid , réalisant la supériorité des Romains en nombre et en armes, eut recours à ses tactiques habituelles et divisa son armée 38 corps égaux, tous commandés par des guerriers compétents. Le 30 Août 634, les Romains, inspirés par les prêtres, sortir de leur camp pour rencontrer les Musulmans. Un carnage terrible s'ensuivit et les Romains furent vaincus dans un massacre épouvantable. D'après Tabari, plus de 120.000 Romans périrent dans la vallée de Wakusa et furent noyés dans la rivière. Avec cette mémorable victoire dans la bataille de Yarmuk, toute la Syrie était aux pieds des musulmans. Lors de cette mémorable bataille, Khalid Ibn Walid montra un superbe talent militaire, une chevalerie extraordinaire et de rares mouvements stratégiques. Quand la nouvelle du désastre fut transmise à l'empereur Byzantine Héraclius à Antioche, il dit : 'Adieu Syrie, ma blonde province. Vous êtes des ennemis maintenant ...quelle terre je laisse à l'ennemi; et il quitta Antioche pour Constantinople. Khalid déclara : 'La Syrie s'assit aussi calme qu'un chameau'. Mais avant la fin de la bataille de Yarmuk, le calife Abu Bakr  mourut et lui succéda 'Umar. Immédiatement après son élection comme calife, 'Umar  donna des ordres pour la déposition de Khalid du commandement suprême. La lettre fut remise à Khalid  au milieu de la bataille de Yarmuk et fut gardée secrète jusqu'à la fin. Khalid obtempéra avec plaisir aux ordres du calife et jusqu'à sa mort il combattit comme un soldat ordinaire dans les armées de l'islam. Il montra un sens de la discipline incroyable pour un général de son rang. Ignorant l'humiliation que cet ordre aurait pu provoquer en lui, il continua à servir avec un zèle infatigable comme un soldat croyant de l'Islam dans toutes les campagnes qui eurent lieu ensuite en Syrie.

Pendant le califat de 'Umar, les forces musulmanes remportèrent de brillantes batailles en Syrie, en Irak, en Perse, et en Egypte et la bannière islamique fut portée aux extrémités occidentales de l'Egypte, à l'ouest et aux cotes de la mer Caspienne au nord. Le siège de Damas dura plus de deux mois et une nuit alors que dans la ville on fêtait la naissance d'un enfant de Lord Bishop et que les habitants étaient ivres, Khalid et ses associés escaladèrent les murs et ouvrir les portes orientales. Le Takbir (cri d'Allah-ou-Akbar) remplit l'air et les festoyeurs ayant compris que situation était critique ils capitulèrent à Abu 'Ubaidah, le commandant musulmans qui gardait les portes occidentales. Les deux armées - l'une menée par Khalid - déclarèrent avoir pris la ville et l'autre commandée par Abu 'Ubaidah qui avait accepté la capitulation de la ville sous certaines conditions, se rencontrèrent au cÅ"ur de la ville. En fin, les termes de la capitulation acceptés par Abu 'Ubaidah furent considérés comme bons pour toute la ville et furent ratifiés par le calife 'Umar.

Khalid prit part à plusieurs campagnes en Syrie, dont celles de Homs et de Kansarain. Avec la conquête de Kansarain, la dernière place forte des Byzantins en Syrie, le règne des Byzantins en Syrie s'acheva et l'empereur Héraclius se retira à Constantinople pour ne jamais revenir. La valeur exceptionnelle exhibée par Khalid lors de la campagne de Kansarain obligea 'Umar à changer son opinion à son sujet. Il reconnut ouvertement: 'Que Dieu bénisse Abu Bakr . Il avait un plus grand sens du type d'homme qui convient que moi'.

Le respect montré par les conquérants musulmans envers les races conquises en Irak et en Syrie fut responsable, pour une grande partie, de l'établissement d'un gouvernement et d'une administration stables dans ces régions. Dans " Le Califat, Son avènement, sa grandeur et sa chute ", Sir William Muir reconnaît : 'Si les musulmans avaient maltraités les gens en Syrie ou s'ils avaient persécuté leurs religion, leur position aurait en fait été désespérée; mais leur clémence envers les conquis, leur justice et leur dignité contrastaient avec la tyrannie et l'intolérance des Romains.....Les chrétiens syriens jouissaient de plus de liberté civiles et politiques sous leurs envahisseurs arabes que sous le règne de Héraclius et ils n'avaient aucun désir de retourner à leur ancien état....Les musulmans, quand ils se retirèrent, rendirent les impôts collectés, puisqu'ils n'étaient plus capable de remplir leur part du marché en garantissant la sécurité de la vie et des biens. Un évêque nestorien écrit à propos de l'année 15: Les Talites (Arabes) a qui Dieu avait accordé de nos jours la domination, sont devenus nos maîtres; mais ils ne combattent pas la religion chrétienne; plutôt ils protègent notre foi, ils respectent nos prêtres et nos hommes saints, et font des cadeaux à nos églises et à nos couvents'. Ainsi, les musulmans en Syrie régnaient sur les corps et les cÅ"urs de leurs sujets en Syrie et en Irak.

La raison derrière la déposition de Khalid  n'était pas la malice de la part du grand calife 'Umar . C'était une personne trop grande pour qu'on l'associe à de tels actes. Comme le dit Sir William Muir:

'Le chef militaire devait laisser la place au fonctionnaire civil; de l'épée à la plume; de Khalid à Abu 'Ubaidah. Il n'y a pas d'occasion de chercher des motifs ultérieurs qui aurait menés 'Umar à remplacer Khalid par Abu 'Ubaidah. Pas la moindre des haines personnelles ne l'ont influencées. 'Umar était trop grand pour cela.'
'Umar a essayé d'effacer l'incompréhension créée parmi les gens au sujet de la déposition de Khalid Ibn Walid. Il envoya une lettre dans les différentes provinces pour annoncer qu'il n'avait pas déposé Khalid  à cause d'une faute de sa part, mais parce qu'ils avaient commencé à mettre plus de confiance en Khalid qu'en Dieu.

D'après les célèbres historiens Tabari et Ibn 'Asakir, Khalid Ibn Walid, le sabre d'Allah, mourut à Homs en 21 de l'hégire (644).
Ainsi trépassa le héros de centaines de batailles avec un désir inassouvi de martyr sur ses lèvres mourantes.

"Hélas", murmura-t-il "Moi, qui aie combattu des centaines de batailles et dont le corps porte d'innombrables cicatrices, je n'ai pas pu être béni par le martyr - la plus grande ambition de tout vrai musulman. Je suis allé dans tous les endroits possibles pour la Shahadah, mais il était écrit dans mon destin que je mourrais dans mon lit. A mon avis il n'y a pas d'action plus chère que mon attente auprès de mon cheval abrité par la nuit, le ciel scintillant par la pluie, attendant l'aube, afin que je puisse attaquer l'ennemi."

En apprenant la nouvelle de sa mort, le calife Umar  s'exclama : 'La mort de Khalid a créé un vide dans l'islam qui ne peut être comblé'.
'Les campagnes militaires de Khalid Ibn Walid et de 'Amr Ibn Al 'Aas , écrit Philip K. Hitti dans son travail monumental "The History of the Arabs" qui s'ensuivirent en Irak, en Perse, en Syrie et en Egypte sont parmi les brillamment exécutées dans l'histoire de la guerre et apporte une comparaison favorable avec celle de Napoléon, d'Hannibal ou d'Alexandre'.