Tarik Ibn Ziad, Grand chef berbère, se convertit à l'Islam et part aussitôt à la conquête de l'Espagne au VIIe siècle apr. J.-C.
La chute de Rome, puis des Vandales, et l'instabilité durant la période byzantine entraînent la reconstitution de plusieurs principautés berbères. Certaines, notamment dans les Aurès, vont résister à l'arrivée des musulmans entre 670 et 702.
Les figures les plus connues de ce conflit furent le roi chrétien Koceila, qui vainquit Sidi Ocba ibn Nafaa en 689, près de Biskra, puis la reine guerrière Kahena (de son vrai nom Dihya), qui à la tête des Berbères (Djerawa de l'Aurès et Nefoussa de Tripolitaine) ainsi que des Roums de la côte, infligea, en 693, à la bataille de la Meskiana, une sévère défaite au corps expéditionnaire arabe de l'émir Hassan Ibn en Noman, qu'elle repoussa jusqu'en Tripolitaine.
Tarik Ibn Ziad, Grand chef berbère, se convertit à l'Islam et part aussitôt à la conquête de l'Espagne au VIIe siècle apr. J.-C.Après la conquête musulmane, les citadins adoptèrent l'islam (pour se protéger contre les attaques des nomades) et progressivement la langue arabe. Berbère, phénicien, romain, arabe, espagnol, turc, français : le brassage des langues, le « métissage linguistique », est intense, donnant lieu à un arabe algérien (et maghrébin en général) qui s'est perpétué jusqu'à nos jours.
La première partie de la conquête musulmane de l'Espagne fut menée par un contingent berbère presque entièrement composé de récents convertis, à commencer par son chef Tariq ibn Ziyad, qui donna son nom à la colline de Gibraltar (جبل طارق, « Djebel Tariq »). Après le succès de Tarik, le calife le fit enchaîner. Il mourut en route.
Au Xe siècle, le dai ismaélien Ubayd Allah al-Mahdi fonda la dynastie Fatimide, en Basse Kabylie où il trouva un écho favorable à ses prêches millénaristes. Les Fatimides établirent leur autorité en Afrique du Nord entre 909 et 1171 et fondèrent un califat dissident des Abbassides de Bagdad.
Leur règne est marqué par de nombreuses révoltes Kharijites, notamment celle d'Abu Yazid, en 944, à la tête de tribus berbères Zénètes, qui infligea la plus sévère défaite à l'armée Fatimide, affaiblie et rendue vulnérable, en prenant Kairouan. La révolte fut vaincue par Ziri ibn Manad, à la tête de tribus Sanhadjas, qui en sauvant l'empire reçue le poste de gouverneur du Maghreb central.
Ainsi en 972, lorsque les Fatimides, après l'annexion égyptienne, eurent moins d'intérêts pour le Maghreb, c'est son fils, Bologhine ibn Ziri, qui hérita du contrôle de l'Ifriqiya. Les Zirides y règneront pendant environ deux siècles.
Hammad Ibn Bologhine, le fils de Bologhine, gouvernera indépendamment des Zirides, sur le nord de l'actuelle Algérie, à partir de 1014 en reconnaissant, comme califes légitimes, les Abbassides sunnites de Bagdad, fondant ainsi la dynastie des Hammadides. Les Zirides reconnaîtront, à leur tour, en 1046, les califes Abbassides, montrant ouvertement aux Fatimides leur abandon du chiisme.
C'est à partir de 1048, dans certaines régions du Sud, au temps d'Ibn Khaldoun, que des tribus arabes, principalement les Banû Hilâl et les Banu Sulaym, immigrent en Afrique du nord. Ces « terribles bédouins » hilaliens furent envoyées par le pouvoir Fatimides afin de réprimer les Zirides et les Hammadides. Par vagues successives, ils menaient des incursion dans les grandes villes, pillant puis détruisant tout sur leur passages. En Algérie, leur nombres ne dépassant pas quelques dizaines de milliers de personnes, ils étaient cependant parfois alliés avec certaines tribus locales des Zénètes. Ces deux royaumes, alors prospères, seront grandement affaiblies par ces incursions. Les Zirides transfèreront alors leur capitale de Kairouan à Mahdia, les Hammadides, d'Al-Quala (La Kalâa de Béni Hammad, aujourd'hui reconnue patrimoine mondial par l'UNESCO) à Béjaïa.
L'Algérie est alors, sur une petite partie à l'Ouest, sous le contrôle des Almoravides, des Hammadides au centre, et des Zirides à l'Est. Quand en 1152, ils sont définitivement vaincues par les Almohades, dirigés par Abdelmoumen Ibn Ali et dont le chef spirituel est Muhammad ibn Tumart. Les Almohades formeront un des plus puissant empire méditerranéen, unifiant le Maghreb et la pays d'Al-Andalus jusqu'en 1269.
Quant à l'immigration arabe en Afrique du Nord, elle fut peu importante, sauf dans deux régions extérieures à l'Algérie, celle de Kairouan et celle de Tanger. Si bien qu'au total le peuplement de l'Algérie n'a reçu qu'une contribution démographique arabe limitée, et qu'une grande partie des populations arabophones est berbère[6].