Rattaché au Ministère de l’Éducation Nationale, cet organe consultatif peut, à la demande du ministre de l’Éducation nationale, de l’Enseignement supérieur et de la Recherche,formuler des propositions sur la pédagogie, les programmes, l’organisation, les résultats du système éducatif et la formation des enseignants ainsi qu'émettre des avis sur les projets du gouvernement en matière d'éducation. Il remet également un rapport annuel au président de la République qui évalue le système éducatif et l'impact des expérimentations menées sur le terrain.

Ce haut conseil a été institué par l’article 14 de la loi d’orientation et de programme pour l’avenir de l’école du 23 avril 2005 lorsque Gilles de Robien était en charge du ministère. Il a remplacé le Haut Conseil de l'évaluation de l'école (2001-2005). La création de ce conseil était une de suggestions du rapport Thélot (2004) établi à l'issue du Débat national sur l'avenir de l’École. Sa première mission a été d'établir en 2006 un socle commun de connaissances que tous les élèves de 16 ans devraient maîtriser. La même année, il a aussi émis un avis sur le cahier des charges de la formation dispensée dans ce qui étaient alors les instituts universitaires de formation des maîtres (IUFM). En 2011, l'Assemblée nationale l'a d'abord supprimé avant de changer d'avis.

Le principal rôle de cet organe consultatif est de d'élaborer en comité réduit et proposer des réformes du système éducatif français en concertation avec les acteurs du secteur. Pour cela, il peut faire appel à des avis d'experts extérieurs à l'administration. Leur deux principaux axes de travail étant l'orientation scolaire et l'étude de l'école primaire.

Parmi leur arsenal de réponses au gouvernement disponibles, il y a les avis, les bilans, les recommandations et les notes au ministre qui complètent les rapports d'experts qu'il commande.

Ce conseil compte neuf membres, désignés pour six ans par l'État et les dirigeants des assemblées : 
- trois personnalités désignées par le Président de la République.
- deux personnalités désignées par le Président du Sénat.
- deux personnalités désignées par le Président de l'Assemblée nationale. 
- deux personnalités désignées par le Président du Conseil économique, social et environnemental. 

Le président est ensuite choisi par le président de la République parmi ces membres qui ne peuvent appartenir à une des chambres.

La composition à l'heure actuelle du HCE fait la part belle aux universitaires :

- Membres désignés par le Président de la République 
> Bruno RACINE, Conseiller-maître à la Cour des Comptes, président de la Bibliothèque nationale de France (BnF) 
> Valérie HANNIN, professeure agrégée d’histoire, directrice de la rédaction de la revue L’Histoire 
> Antoine COMPAGNON, professeur au Collège de France, professeur de littérature française et comparée à l’Université Columbia (New York)

- Membres désignés par le Président de l’Assemblée nationale 
> Jean-Pierre FOUCHER, professeur des universités, Université Paris-Sud 11 - Faculté de pharmacie 
> Christian VULLIEZ, ancien directeur général d’HEC (école des Hautes études commerciales), consultant international en éducation

- Membres désignés par le Président du Sénat 
> Alain BOUVIER, ancien recteur, professeur émérite de l’Université de Poitiers, professeur associé de l’Université de Sherbrooke (Québec) 
> Marie-Thérèse GEFFROY, directrice de l’Agence nationale de lutte contre l’illettrisme (ANLCI)

- Membres désignés par le Président du Conseil économique, social et environnemental 
> Christian FORESTIER, inspecteur général de l’Éducation nationale, administrateur général du Conservatoire national des Arts et Métiers (CNAM) 
> Michel PÉBEREAU, président de banque, président du conseil de direction de l’Institut d’études politiques de Paris, président de l’Institut de l’Entreprise

Un secrétariat général composé de 7 personnes dont des chargés de missions assiste les membres du conseil dans leurs démarches administratives.

Financé par son ministère de tutelle, le Haut Conseil de l’Éducation consacre son budget à la réalisation des rapports annuels d’évaluation du système scolaire et de ses différents échelons. Les coûts de fonctionnement de l'organisme concentre la majorité des dépenses en comptant les déplacements des membres dans les différentes académies, outre-mer inclus, voire même à l'étranger pour observer les systèmes éducatifs des autres pays. L'autre gros poste de dépenses restant la contribution d'experts sur des sujets précis comme l'orientation scolaire.

Une des principales controverses qui agite ce haut-conseil porte sur la nomination de ses membres qui est vivement critiquée par des universitaires. Ils reprochent une «indépendance irréprochable » de façade car tous les membres sont nommés par les personnes aux pouvoirs et ne sont pas issues de l'administration qui serait le garant de l'indépendance politique et de la continuité de l'État malgré les alternance politiques.  http://www.sauvonsluniversite.com/spip.php?article4054

Pour eux, il peut paraître également surprenant de voir au sein du HCE la présence de Michel Pébereau, un ancien inspecteur des  finances et actuel PDG de la banque BNP Paribas.

Les débats actuels tendent à prouver que le HCE souhaiterait plus d'indépendance mais il n'hésite pas à critiquer les évaluations menées par le ministère de l'Éducation nationale pour mesurer l'acquisition du socle commun de connaissance par les élèves du collège.

L'autre controverse a porté sur la volonté d'un député, Lionel Tardy, de supprimer le HCE au début de l'année 2011 contre l'avis du gouvernement issu de son propre camp. Finalement, son amendement, voté une première fois en commission, a été retoqué à l'Assemblée nationale et le HCE a été rétabli dans ses fonctions. 

A la suite de la tentative de suppression du HCE, celui-ci a suggéré d'aller plus loin dans l'indépendance de cet organe consultatif en mettant en avant que le lien politique était néfaste à une appréhension objective du système scolaire surtout lorsque les résultats sont soumis à une utilisation politique. Le HCE milite pour des données transparentes et incontestables.

Une agence d'évaluation indépendante serait alors chargée d'évaluer les élèves par échantillons et sur des points précis des programmes qui correspondent aux normes d'évaluation internationales comme le PISA (étude de l'OCDE sur  l'acquisition des savoirs et savoir-faire essentiels à la fin de la scolarisation obligatoire.)

Suite à des remarques de l'Organisation de Coopération et de Développements Économiques (OCDE) sur le système éducatif français jugé inégalitaire, le HCE a réagi en critiquant à son tour le mode de fonctionnement de l'Éducation nationale.

Le HCE en appelle à la mise en place d'un organisme indépendant pour évaluer l'application de programmes et l'acquisition par les élèves du socle commun de connaissances. Il critique également les méthodes d'évaluation utilisées pour mesurer la maitrise de compétences en fin de primaire (CE1) et en fin de collège (3ème).

Enfin dans son rapport, « Le Haut Conseil de l’Éducation recommande de renoncer aux indicateurs actuels de la LOLF sur la maîtrise des « compétences de base ». Ce qui reviendrait à remettre à plat toutes les méthodes d'évaluations d'après cette étude des indicateurs.

Cependant, les observateurs extérieurs craignent que le HCE mettent en place une évaluation du système éducatif à l'anglo-saxonne qui autorise un véritable pilotage de l'École comme George W. Bush l'avait lancé au niveau fédéral il y a quelques années.

Un autre débat a été lancé par un rapport du HCE en 2010 sur le collège unique qui est discuté, raillé et critiqué depuis sa création en 1975. Le HCE a établi que le collège au lieu de réduire les inégalités sociales ne faisait que les amplifier. Depuis 2007, le gouvernement a réformé l'école primaire et le lycée mais n'a jamais abordé le problème du collège unique où la suite de la scolarité des élèves se détermine.

Le HCE demande dans son rapport la généralisation du socle commun de connaissances pour que le collège répare les carences léguées par une école primaire qui ne garantit plus à tous les élèves de savoir lire, écrire et compter à l'entrée au collège.

Rapport sur le collège de 2010 :  http://www.hce.education.fr/gallery_files/site/21/60.pdf

Cette polémique a été reprise par le Sénat sous l'impulsion du HCE et des inspections générales de l'Éducation nationale. Une mission commune d'information sur le système scolaire a donné lieu à un rapport parlementaire qui a confirmé les diagnostics et les propos alarmants du rapport de l'HCE.

En 2011, le HCE a martelé une nouvelle fois que les résultats transmis au Parlement n'étaient pas suffisants et que les méthodes d'évaluation manquaient de recul et de transparence.