Для управления данными СУБД может использовать предлагаемые операционной системой функции файловой системы управления или непосредственно самой заниматься запоминающими устройствами. Во втором варианте используют специальную файловую систему, которую проектируют сами производители СУБД. Различия между этими двумя путями могут быть значительными, как в скорости выполнения, так и со стороны цены, однако, это различие не оказывает влияния на сохраняемую информацию.

СУБД не может ограничиваться только сохранением требуемых данных, поскольку она, прежде всего, должна сохранять где-то структуру данных, причем на обоих, логическом (имена, отношения) и физическом (для запоминания необходимых типов данных) уровнях, сохраняя при этом необходимую гибкость. Эту информацию сохраняют в словаре данных (data dictionary - DD). В словаре данных также необходимо сохранять индексы.

На основании административных требований нужно сохранять служебные данные пользователя и их профили: эти данные СУБД использует для того, чтобы убедиться в приемлемости операции. Всю эту информация вместе иногда называют системными каталогами (system catalogues).

Задача индексов - обеспечить более быстрый поиск по некоторым признакам. Как по ключевому слову в индексе книг можно быстро найти расположение страницы без перелистывания полного текста, так и в электронной базе данных удается по индексу найти соответствующее место. Хотя разница ощутима особенно в случае больших объемов данных, где минутный поиск при использовании соответствующего индекса может замениться миллисекундным. В случае кластерного индекса весь набор данных сортируют по нужному столбцу, таких для каждой таблицы может быть только один.

Статистические данные, сохраненные для запросов, помогают в дальнейшем запросы оптимизировать - например, рассматривая с этой точки зрения возможность, какие сравнения и исключения целесообразнее сделать раньше всего.