Een bruine dwerg is een hemellichaam dat lichter is dan een ster, maar zwaarder dan een planeet. Bruine dwergen worden op dezelfde wijze gevormd als sterren: door contractie van een gas-stofwolk. Bij een bruine dwerg is de massa van het samentrekkende gas echter niet groot genoeg om de druk en de temperatuur in het centrum zo hoog te laten worden dat de kernfusie van waterstof begint (bruine dwergen hebben wel een klein beetje deuterium-fusie).

De naam bruine dwerg wil overigens niet zeggen dat ze bruin van kleur zijn (ze zijn roodachtig). Maar omdat ze geen energiebron hebben, geven ze weinig licht. Het kleine beetje licht dat ze geven komt doordat ze langzaam samentrekken en daarbij potentiële energie omzetten in straling. De naam rode dwerg heeft al een andere betekenis: een echte ster met minder dan half de massa van de zon.

Er zijn twee manieren om bruine dwergen van planeten te onderscheiden: door de manier van ontstaan en door hun massa. Bruine dwergen zijn directe contracties van een gas- en stofwolk terwijl planeten ontstaan als zich samenvoegende blokken van ijs of rots, eventueel later aangevuld met waterstof en helium uit hun omgeving (zoals de gasreuzen in ons zonnestelsel, met name Jupiter en Saturnus). Planeten zijn zo licht dat de druk en temperatuur in het centrum nooit hoog genoeg worden voor kernfusie. Bruine dwergen zijn zwaarder waardoor wel enige kernfusie plaatsvindt (deuterium). Ze zijn echter te licht voor de fusie van waterstof zoals in 'echte' sterren.

De eerste manier van onderscheiden is de traditionele definitie. Het nadeel hierbij is dat het moeilijk is vast te stellen hoe een object is gevormd. Met de tweede definitie is de massa van een bruine dwerg strak bepaald. Bruine dwergen hebben 13 tot 80 keer de massa van Jupiter en zijn daarmee lichter dan 0,08 zonsmassa’s.

Lange tijd heeft men gezocht naar bruine dwergen. Een aantal keren was er vals alarm. Een hele zwakke ster in een sterhoop, die op het eerste gezicht een bruine dwerg leek te zijn, bleek in werkelijkheid een achtergrondster. In 1995 werd er voor het eerst succes geboekt en werden bruine dwergen gevonden in de Pleiaden. Ze staan bekend als PPl 15, Teide 1 en Calar 3, maar omdat deze objecten nog jong en heet zijn lijken ze erg op lichte sterren.

Een ouder exemplaar, en momenteel de best bestudeerde bruine dwerg, is Gliese 229B. Gliese 229B is een kleine begeleider van Gliesse 229, zelf ook niet meer dan een rode dwerg. De massa van Gliese 229B wordt geschat op 30 tot 50 maal de massa van Jupiter. De eerste bruine dwerg aangetroffen in de 'lege ruimte', dus niet in een sterrenhoop of bij een andere ster, was Kelu-1 in 1997.

De aanwezigheid van lithium is een duidelijke aanwijzing dat een object een bruine dwerg is en geen kleine ster. In sterren wordt de aanwezige lithium heel snel verbrand, maar in bruine dwergen wordt de temperatuur nooit hoog genoeg om de fusie van lithium mogelijk te maken. Oudere bruine dwergen zijn ook te herkennen aan de aanwezigheid van methaan, dat wijst op een oppervlaktetemperatuur van minder dan 1300 Kelvin.

Sinds de eerste ontdekking zijn meer bruine dwergen ontdekt. Tellingen in de Pleiaden geven zelfs aan dat bruine dwergen misschien wel evenveel voorkomen als gewone sterren. Hun totale massa is echter klein, omdat ze per stuk zo licht zijn. De veronderstelling dat bruine dwergen een aandeel zouden hebben in de donkere massa in sterrenstelsels klopt dus waarschijnlijk niet. Opvallend is verder dat bruine dwergen, voor zover we weten, alleen voorkomen als los object of in een dubbelster met een andere bruine dwerg of een rode dwerg, maar nooit samen met een zwaardere ster.

De rodere sterren op deze infraroodopname zijn lichte sterren en bruine dwergen in het stervormingsgebied van de Orionnevel.