Para Luhmann, todo o um sistema apresenta-se como uma entidade auto- referente e autopoiética.
A auto-referência indica o fato de que os sistemas referem-se a si mesmos mediante suas próprias operações (LUHMANN, 1998, p. 33). Ela se apresenta quando a operação de observação está incluída no que se indica, ou seja, quando a observação indica algo a que pertence. Um sistema social, por exemplo, pode produzir somente comunicação e é capaz de considerar a realidade só por meio da
comunicação. A auto-referência, portanto, está presente em toda a comunicação. Do mesmo modo, a consciência só pode pensar, e a realidade adquire importância somente como objeto de referência dos pensamentos.
Luhmann não entende o conceito de auto-referência em um sentido puramente analítico, e menos ainda como propriedade do sujeito transcendental. O objeto da teoria dos sistemas, nesta perspectiva, não é nem o homem nem o sujeito. A constituição auto-referencial dos sistemas orgânicos, psíquicos e sociais é definida como um dado empírico: ditos sistemas existem na realidade e são realmente auto- referentes. Na sua obra Sistemas Sociales: Lineamentos para una teoría general, ao iniciar o leitor às suas proposições, Luhmann (1998, p. 37) esclarece:
As seguintes reflexões partem do fato de que existem sistemas; não começam, portanto, com uma dúvida teórica do conhecimento. Tampouco assumem a posição inicial de que a teoria dos sistemas tem “uma relevância meramente analítica”. Deve-se evitar, também, a interpretação estreita de que a teoria dos sistemas é um simples método de análise da realidade. É óbvio que não se deve confundir as afirmações com seus próprios objetos; há que se estar consciente de que as afirmações são só afirmações; que as afirmações científicas são só afirmações científicas. Mas, no caso da teoria dos sistemas, se referem sempre ao mundo real. O conceito de sistema designa o que na verdade é um sistema e assume com isso a responsabilidade de provar suas afirmações frente à realidade.
Esta posição intenta superar as controvérsias entre nominalismo e realismo, no sentido de que um dado objeto descrito comunicativamente, por exemplo, não constitui o objeto em si, mas uma representação nominal deste.
Os sistemas constituídos de modo auto-referencial devem ser capazes de distinguir entre o que é próprio do sistema (suas operações) e o que é atribuído ao entorno. A possibilidade de reproduzir as operações do sistema do modo autopoiético é um pressuposto da auto-referência, de forma que qualquer distinção que se utilize para observar (ou, seja para referir-se a algo) deve construir-se no interior do próprio sistema. Contudo, o sistema não deve misturar o interno com o externo, interpretando a si mesmo como seu entorno; a condição de sua operacionalidade e de qualquer forma de conhecimento é a possibilidade de distinguir internamente entre auto-referência e referência externa.
Quanto a conceito de autopoiésis, a teoria dos sistemas o adota e amplia sua importância. Enquanto que no âmbito biológico o conceito é aplicado exclusivamente
aos sistemas vivos, em Luhmann se individualiza um sistema autopoiético em todos os casos nos quais ocorre a possibilidade de se especificar um modo singular de operação. Desta maneira, individualizam-se dois níveis posteriores de constituição de sistemas autopoiéticos, caracterizados, cada um deles, por operações específicas: sistemas sociais e sistemas psíquicos. As operações de um sistema social são as comunicações, que se reproduzem com base em outras comunicações, reproduzindo desta maneira a unidade do sistema social. Já, as operações de um sistema psíquico são os pensamentos, sendo que não se dão pensamentos além do interior de uma consciência (LUHMANN, 1998, p. 56).
Todos os sistemas autopoiéticos se caracterizam pela clausura operativa. Com este conceito se indica o fato de que as operações que levam a produção de novos elementos em um dado sistema dependem das operações anteriores do mesmo sistema e constituem o pressuposto para as operações posteriores: esta clausura constitui a base da autonomia do sistema em questão e permite distingui-lo de seu entorno. No caso de um sistema vivo ainda que a reprodução dos elementos utilize materiais externos ao organismo, as transformações que levam a produção de uma célula nova são exclusivamente internas: a produção de uma célula nunca se apresenta fora de um organismo vivo. Isso é também válido para os outros tipos de sistemas autopoiéticos: as operações de um sistema social, as comunicações, são resultado de comunicações precedentes e suscitam a sua vez comunicações posteriores.
A unidade de um sistema social está constituída exclusivamente pela conexão recursiva das comunicações, e não pelas operações dos processos psíquicos das consciências que participam nelas (comunicações): só a sociedade pode comunicar. Também as operações de um sistema psíquico, os pensamentos, se reproduzem incessantemente com base em outros pensamentos, e não refletem diretamente nem processos orgânicos, nem comunicativos: só uma consciência pode pensar (mas não pode transferir seus próprios pensamentos para o interior de outra consciência – deve passar pela comunicação). Vida, pensamento e comunicação são níveis distintos de autopoiésis, caracterizados cada um pela própria autonomia.
Através do conceito de autopoiésis, Luhmann renuncia a todo e qualquer pressuposto capaz de assegurar uma prescrição da realidade tal como ela é. Todo o
sistema cognitivo, seja ele psíquico ou social, constrói a realidade a partir de sua própria cognição. O conhecimento, então, deve ser processado com a ajuda da distinção entre auto-referência (observação de primeira ordem) e referência externa (observação de observações), no interior dos sistemas; com isso, todo o conhecimento, e com ele toda a realidade, é uma construção (LUHMANN, 2000, p. 7-8).
O conceito de clausura operativa é a conseqüência da tese mediante a qual nenhum sistema pode operar fora de seus próprios limites. Contudo, cada sistema tem naturalmente um entorno e permanece dependente da compatibilidade com o ele: sem a participação das consciências, por exemplo, um sistema social não poderia reproduzir-se. No âmbito da constituição de seus elementos o sistema opera exclusivamente em condições de auto-contato, ou seja, exclusivamente por meio da rede de suas próprias operações, e sobrevive até que perca esta condição de clausura: no momento em que uma instância externa passa a determinar a conduta de suas operações e intervém na constituição dos elementos, para o sistema poderia significar o fim de sua própria autonomia e, por conseguinte, sua completa desaparição. No caso de um sistema vivo esta desaparição equivale à morte: um organismo está vivo até o momento em que é capaz de reproduzir suas próprias células a base de suas próprias células. Também um sistema social que não for capaz de gerar novas comunicações estaria destinado a desaparecer como sistema, ainda se as consciências continuassem pensando conteúdos relativos às comunicações passadas (sem expressá-los, e sem que sejam compreendidos pelos demais).
Nesse sentido, Luhmann fala de determinação estrutural: “a estrutura é (...) a limitação das relações permitidas no sistema” (LUHMANN, 1998, p. 258), ou seja, as estruturas do sistema são as únicas que podem determinar o que existe e é possível. A existência de um sistema coincide, então, com sua capacidade de manter um limite nas relações com o ambiente. A reprodução autopoiética das operações gera ao mesmo tempo a unidade dos elementos do sistema, ao qual pertencem, e o limite entre o sistema e o entorno.
No caso do sistema da sociedade, podem ser constituídos sistemas autopoiéticos ulteriores, onde cada qual reproduz uma operação específica, ou seja,
um modo específico de comunicação que se realiza somente em seu interior. Desta maneira se delineia outro limite entre sistema e entorno, esta vez de maneira interna ao sistema. Na sociedade contemporânea, por exemplo, se individualizam vários sistemas de funções, os quais diferenciam as comunicações que lhes pertencem das outras comunicações internas da sociedade, com base na orientação de um código específico. A ciência, por exemplo, abarca somente comunicações orientadas pelo código verdade/não verdade, que se reproduzem com base em comunicações posteriores orientadas pelo mesmo código.
Com a exclusão de qualquer contato direto com o entorno, o conceito de clausura do sistema adquire um sentido mais radical. Nunca se dá uma importação ou exportação de unidade do interior do sistema para o exterior, nem vice-versa. As comunicações, portanto, podem se referir aos dados do mundo só de maneira indireta, se e na medida em que se comunique sobre eles (unicamente nas formas próprias do sistema). Os interesses e as motivações das consciências que participam na comunicação, tampouco intervêm diretamente nela, mas podem apresentar-se somente como tema da comunicação.
Em Luhmann, a clausura do sistema não significa negar a relevância do entorno: a clausura é justamente a condição para a abertura do sistema. Somente sob a condição de dispor de uma autonomia própria, o sistema é capaz de marcar um limite que o separe do entorno e de distinguir-se dele: somente enquanto delimita um âmbito no qual são válidas condições específicas e que não está sujeito a adequação imediata aos estados do mundo, pode reelaborar materiais externos para constituir seus próprios elementos e pode reagir (em suas próprias formas) as irritações provenientes do entorno. Desta maneira o sistema pode introduzir diferenças próprias e tratar com base nelas os estados e os eventos do entorno externo, que podem assim gerar informação.