Kernel/arch/x86/proc.c

   1 /*
   2  * AcessOS Microkernel Version
   3  * proc.c
   4  */
   5 #include <common.h>
   6 #include <proc.h>
   7 #include <mm_virt.h>
   8 #include <errno.h>
   9 #if USE_MP
  10 # include <mp.h>
  11 #endif
  12
  13 // === FLAGS ===
  14 #define DEBUG_TRACE_SWITCH      0
  15
  16 // === CONSTANTS ===
  17 #define SWITCH_MAGIC    0xFFFACE55      // There is no code in this area
  18 #define TIMER_DIVISOR   11931   //~100Hz
  19
  20 // === IMPORTS ===
  21 extern tGDT     gGDT[];
  22 extern Uint     GetEIP();       // start.asm
  23 extern Uint32   gaInitPageDir[1024];    // start.asm
  24 extern void     Kernel_Stack_Top;
  25 extern volatile int     giThreadListLock;
  26 extern int      giNumCPUs;
  27 extern int      giNextTID;
  28 extern int      giTotalTickets;
  29 extern int      giNumActiveThreads;
  30 extern tThread  gThreadZero;
  31 extern tThread  *gActiveThreads;
  32 extern tThread  *gSleepingThreads;
  33 extern tThread  *gDeleteThreads;
  34 extern tThread  *Threads_GetNextToRun(int CPU);
  35 extern void     Threads_Dump();
  36 extern tThread  *Threads_CloneTCB(Uint *Err, Uint Flags);
  37 extern void     Isr7();
  38
  39 // === PROTOTYPES ===
  40 void    ArchThreads_Init();
  41 tThread *Proc_GetCurThread();
  42 void    Proc_ChangeStack();
  43  int    Proc_Clone(Uint *Err, Uint Flags);
  44 void    Proc_Scheduler();
  45
  46 // === GLOBALS ===
  47 // --- Current State ---
  48 #if USE_MP
  49 tThread *gCurrentThread[MAX_CPUS] = {NULL};
  50 #else
  51 tThread *gCurrentThread = NULL;
  52 #endif
  53 // --- Multiprocessing ---
  54 #if USE_MP
  55 tMPInfo *gMPTable = NULL;
  56 #endif
  57 #if USE_PAE
  58 Uint32  *gPML4s[4] = NULL;
  59 #endif
  60 tTSS    *gTSSs = NULL;
  61 #if !USE_MP
  62 tTSS    gTSS0 = {0};
  63 #endif
  64 // --- Error Recovery ---
  65 char    gaDoubleFaultStack[1024];
  66 tTSS    gDoubleFault_TSS = {
  67         .ESP0 = (Uint)&gaDoubleFaultStack[1023],
  68         .SS0 = 0x10,
  69         .EIP = (Uint)Isr7
  70 };
  71
  72 // === CODE ===
  73 /**
  74  * \fn void ArchThreads_Init()
  75  * \brief Starts the process scheduler
  76  */
  77 void ArchThreads_Init()
  78 {
  79         Uint    pos = 0;
  80         #if USE_MP
  81         // -- Initialise Multiprocessing
  82         // Find MP Floating Table
  83         // - EBDA
  84         for(pos = KERNEL_BASE|0x9FC00; pos < (KERNEL_BASE|0xA0000); pos += 16) {
  85                 if( *(Uint*)(pos) == MPTABLE_IDENT ) {
  86                         if(ByteSum( (void*)pos, sizeof(tMPInfo) ) != 0) continue;
  87                         gMPTable = (void*)pos;
  88                         break;
  89                 }
  90         }
  91         // - Last KiB
  92         if(!gMPTable) {
  93
  94         }
  95         // - BIOS ROM
  96         if(!gMPTable) {
  97                 for(pos = KERNEL_BASE|0xF0000; pos < (KERNEL_BASE|0x100000); pos += 16) {
  98                         if( *(Uint*)(pos) == MPTABLE_IDENT ) {
  99                                 if(ByteSum( (void*)pos, sizeof(tMPInfo) ) != 0) continue;
 100                                 gMPTable = (void*)pos;
 101                                 break;
 102                         }
 103                 }
 104         }
 105
 106         // If the MP Table Exists, parse it
 107         if(gMPTable)
 108         {
 109                 Panic("Uh oh... MP Table Parsing is unimplemented\n");
 110         } else {
 111         #endif
 112                 giNumCPUs = 1;
 113                 gTSSs = &gTSS0;
 114         #if USE_MP
 115         }
 116
 117         // Initialise Double Fault TSS
 118         gGDT[5].LimitLow = sizeof(tTSS);
 119         gGDT[5].LimitHi = 0;
 120         gGDT[5].Access = 0x89;  // Type
 121         gGDT[5].Flags = 0x4;
 122         gGDT[5].BaseLow = (Uint)&gDoubleFault_TSS & 0xFFFF;
 123         gGDT[5].BaseMid = (Uint)&gDoubleFault_TSS >> 16;
 124         gGDT[5].BaseHi = (Uint)&gDoubleFault_TSS >> 24;
 125
 126         // Initialise TSS
 127         for(pos=0;pos<giNumCPUs;pos++)
 128         {
 129         #else
 130         pos = 0;
 131         #endif
 132                 gTSSs[pos].SS0 = 0x10;
 133                 gTSSs[pos].ESP0 = 0;    // Set properly by scheduler
 134                 gGDT[6+pos].LimitLow = sizeof(tTSS);
 135                 gGDT[6+pos].LimitHi = 0;
 136                 gGDT[6+pos].Access = 0x89;      // Type
 137                 gGDT[6+pos].Flags = 0x4;
 138                 gGDT[6+pos].BaseLow = (Uint)&gTSSs[pos] & 0xFFFF;
 139                 gGDT[6+pos].BaseMid = (Uint)&gTSSs[pos] >> 16;
 140                 gGDT[6+pos].BaseHi = (Uint)&gTSSs[pos] >> 24;
 141         #if USE_MP
 142         }
 143         for(pos=0;pos<giNumCPUs;pos++) {
 144         #endif
 145                 __asm__ __volatile__ ("ltr %%ax"::"a"(0x30+pos*8));
 146         #if USE_MP
 147         }
 148         #endif
 149
 150         #if USE_MP
 151         gCurrentThread[0] = &gThreadZero;
 152         #else
 153         gCurrentThread = &gThreadZero;
 154         #endif
 155
 156         #if USE_PAE
 157         gThreadZero.MemState.PDP[0] = 0;
 158         gThreadZero.MemState.PDP[1] = 0;
 159         gThreadZero.MemState.PDP[2] = 0;
 160         #else
 161         gThreadZero.MemState.CR3 = (Uint)gaInitPageDir - KERNEL_BASE;
 162         #endif
 163
 164         // Set timer frequency
 165         outb(0x43, 0x34);       // Set Channel 0, Low/High, Rate Generator
 166         outb(0x40, TIMER_DIVISOR&0xFF); // Low Byte of Divisor
 167         outb(0x40, (TIMER_DIVISOR>>8)&0xFF);    // High Byte
 168
 169         // Create Per-Process Data Block
 170         MM_Allocate(MM_PPD_CFG);
 171
 172         // Change Stacks
 173         Proc_ChangeStack();
 174 }
 175
 176 /**
 177  * \fn void Proc_Start()
 178  * \brief Start process scheduler
 179  */
 180 void Proc_Start()
 181 {
 182         // Start Interrupts (and hence scheduler)
 183         __asm__ __volatile__("sti");
 184 }
 185
 186 /**
 187  * \fn tThread *Proc_GetCurThread()
 188  * \brief Gets the current thread
 189  */
 190 tThread *Proc_GetCurThread()
 191 {
 192         #if USE_MP
 193         return NULL;
 194         #else
 195         return gCurrentThread;
 196         #endif
 197 }
 198
 199 /**
 200  * \fn void Proc_ChangeStack()
 201  * \brief Swaps the current stack for a new one (in the proper stack reigon)
 202  */
 203 void Proc_ChangeStack()
 204 {
 205         Uint    esp, ebp;
 206         Uint    tmpEbp, oldEsp;
 207         Uint    curBase, newBase;
 208
 209         __asm__ __volatile__ ("mov %%esp, %0":"=r"(esp));
 210         __asm__ __volatile__ ("mov %%ebp, %0":"=r"(ebp));
 211
 212         oldEsp = esp;
 213
 214         // Create new KStack
 215         newBase = MM_NewKStack();
 216         // Check for errors
 217         if(newBase == 0) {
 218                 Panic("What the?? Unable to allocate space for initial kernel stack");
 219                 return;
 220         }
 221
 222         curBase = (Uint)&Kernel_Stack_Top;
 223
 224         LOG("curBase = 0x%x, newBase = 0x%x", curBase, newBase);
 225
 226         // Get ESP as a used size
 227         esp = curBase - esp;
 228         LOG("memcpy( %p, %p, 0x%x )", (void*)(newBase - esp), (void*)(curBase - esp), esp );
 229         // Copy used stack
 230         memcpy( (void*)(newBase - esp), (void*)(curBase - esp), esp );
 231         // Get ESP as an offset in the new stack
 232         esp = newBase - esp;
 233         // Adjust EBP
 234         ebp = newBase - (curBase - ebp);
 235
 236         // Repair EBPs & Stack Addresses
 237         // Catches arguments also, but may trash stack-address-like values
 238         for(tmpEbp = esp; tmpEbp < newBase; tmpEbp += 4)
 239         {
 240                 if(oldEsp < *(Uint*)tmpEbp && *(Uint*)tmpEbp < curBase)
 241                         *(Uint*)tmpEbp += newBase - curBase;
 242         }
 243
 244         gCurrentThread->KernelStack = newBase;
 245
 246         __asm__ __volatile__ ("mov %0, %%esp"::"r"(esp));
 247         __asm__ __volatile__ ("mov %0, %%ebp"::"r"(ebp));
 248 }
 249
 250 /**
 251  * \fn int Proc_Clone(Uint *Err, Uint Flags)
 252  * \brief Clone the current process
 253  */
 254 int Proc_Clone(Uint *Err, Uint Flags)
 255 {
 256         tThread *newThread;
 257         tThread *cur = Proc_GetCurThread();
 258         Uint    eip, esp, ebp;
 259
 260         __asm__ __volatile__ ("mov %%esp, %0": "=r"(esp));
 261         __asm__ __volatile__ ("mov %%ebp, %0": "=r"(ebp));
 262
 263         newThread = Threads_CloneTCB(Err, Flags);
 264         if(!newThread)  return -1;
 265
 266         // Initialise Memory Space (New Addr space or kernel stack)
 267         if(Flags & CLONE_VM) {
 268                 newThread->MemState.CR3 = MM_Clone();
 269                 newThread->KernelStack = cur->KernelStack;
 270         } else {
 271                 Uint    tmpEbp, oldEsp = esp;
 272
 273                 // Set CR3
 274                 newThread->MemState.CR3 = cur->MemState.CR3;
 275
 276                 // Create new KStack
 277                 newThread->KernelStack = MM_NewKStack();
 278                 // Check for errors
 279                 if(newThread->KernelStack == 0) {
 280                         free(newThread);
 281                         return -1;
 282                 }
 283
 284                 // Get ESP as a used size
 285                 esp = cur->KernelStack - esp;
 286                 // Copy used stack
 287                 memcpy( (void*)(newThread->KernelStack - esp), (void*)(cur->KernelStack - esp), esp );
 288                 // Get ESP as an offset in the new stack
 289                 esp = newThread->KernelStack - esp;
 290                 // Adjust EBP
 291                 ebp = newThread->KernelStack - (cur->KernelStack - ebp);
 292
 293                 // Repair EBPs & Stack Addresses
 294                 // Catches arguments also, but may trash stack-address-like values
 295                 for(tmpEbp = esp; tmpEbp < newThread->KernelStack; tmpEbp += 4)
 296                 {
 297                         if(oldEsp < *(Uint*)tmpEbp && *(Uint*)tmpEbp < cur->KernelStack)
 298                                 *(Uint*)tmpEbp += newThread->KernelStack - cur->KernelStack;
 299                 }
 300         }
 301
 302         // Save core machine state
 303         newThread->SavedState.ESP = esp;
 304         newThread->SavedState.EBP = ebp;
 305         eip = GetEIP();
 306         if(eip == SWITCH_MAGIC) {
 307                 outb(0x20, 0x20);       // ACK Timer and return as child
 308                 return 0;
 309         }
 310
 311         // Set EIP as parent
 312         newThread->SavedState.EIP = eip;
 313
 314         // Lock list and add to active
 315         Threads_AddActive(newThread);
 316
 317         return newThread->TID;
 318 }
 319
 320 /**
 321  * \fn int Proc_SpawnWorker()
 322  * \brief Spawns a new worker thread
 323  */
 324 int Proc_SpawnWorker()
 325 {
 326         tThread *new, *cur;
 327         Uint    eip, esp, ebp;
 328
 329         cur = Proc_GetCurThread();
 330
 331         // Create new thread
 332         new = malloc( sizeof(tThread) );
 333         if(!new) {
 334                 Warning("Proc_SpawnWorker - Out of heap space!\n");
 335                 return -1;
 336         }
 337         memcpy(new, &gThreadZero, sizeof(tThread));
 338         // Set Thread ID
 339         new->TID = giNextTID++;
 340         // Create a new worker stack (in PID0's address space)
 341         // The stack is relocated by this code
 342         new->KernelStack = MM_NewWorkerStack();
 343
 344         // Get ESP and EBP based in the new stack
 345         __asm__ __volatile__ ("mov %%esp, %0": "=r"(esp));
 346         __asm__ __volatile__ ("mov %%ebp, %0": "=r"(ebp));
 347         esp = new->KernelStack - (cur->KernelStack - esp);
 348         ebp = new->KernelStack - (cur->KernelStack - ebp);
 349
 350         // Save core machine state
 351         new->SavedState.ESP = esp;
 352         new->SavedState.EBP = ebp;
 353         eip = GetEIP();
 354         if(eip == SWITCH_MAGIC) {
 355                 outb(0x20, 0x20);       // ACK Timer and return as child
 356                 return 0;
 357         }
 358
 359         // Set EIP as parent
 360         new->SavedState.EIP = eip;
 361         // Mark as active
 362         new->Status = THREAD_STAT_ACTIVE;
 363         Threads_AddActive( new );
 364
 365         return new->TID;
 366 }
 367
 368 /**
 369  * \fn Uint Proc_MakeUserStack()
 370  * \brief Creates a new user stack
 371  */
 372 Uint Proc_MakeUserStack()
 373 {
 374          int    i;
 375         Uint    base = USER_STACK_TOP - USER_STACK_SZ;
 376
 377         // Check Prospective Space
 378         for( i = USER_STACK_SZ >> 12; i--; )
 379                 if( MM_GetPhysAddr( base + (i<<12) ) != 0 )
 380                         break;
 381
 382         if(i != -1)     return 0;
 383
 384         // Allocate Stack - Allocate incrementally to clean up MM_Dump output
 385         for( i = 0; i < USER_STACK_SZ/4069; i++ )
 386                 MM_Allocate( base + (i<<12) );
 387
 388         return base + USER_STACK_SZ;
 389 }
 390
 391
 392 /**
 393  * \fn void Proc_StartUser(Uint Entrypoint, Uint *Bases, int ArgC, char **ArgV, char **EnvP, int DataSize)
 394  * \brief Starts a user task
 395  */
 396 void Proc_StartUser(Uint Entrypoint, Uint *Bases, int ArgC, char **ArgV, char **EnvP, int DataSize)
 397 {
 398         Uint    *stack = (void*)Proc_MakeUserStack();
 399          int    i;
 400         Uint    delta;
 401         Uint16  ss, cs;
 402
 403         LOG("stack = 0x%x", stack);
 404
 405         // Copy Arguments
 406         stack = (void*)( (Uint)stack - DataSize );
 407         memcpy( stack, ArgV, DataSize );
 408
 409         // Adjust Arguments and environment
 410         delta = (Uint)stack - (Uint)ArgV;
 411         ArgV = (char**)stack;
 412         for( i = 0; ArgV[i]; i++ )      ArgV[i] += delta;
 413         i ++;
 414         EnvP = &ArgV[i];
 415         for( i = 0; EnvP[i]; i++ )      EnvP[i] += delta;
 416
 417         // User Mode Segments
 418         ss = 0x23;      cs = 0x1B;
 419
 420         // Arguments
 421         *--stack = (Uint)EnvP;
 422         *--stack = (Uint)ArgV;
 423         *--stack = (Uint)ArgC;
 424         while(*Bases)
 425                 *--stack = *Bases++;
 426         *--stack = 0;   // Return Address
 427         delta = (Uint)stack;    // Reuse delta to save SP
 428
 429         *--stack = ss;          //Stack Segment
 430         *--stack = delta;       //Stack Pointer
 431         *--stack = 0x0202;      //EFLAGS (Resvd (0x2) and IF (0x20))
 432         *--stack = cs;          //Code Segment
 433         *--stack = Entrypoint;  //EIP
 434         //PUSHAD
 435         *--stack = 0xAAAAAAAA;  // eax
 436         *--stack = 0xCCCCCCCC;  // ecx
 437         *--stack = 0xDDDDDDDD;  // edx
 438         *--stack = 0xBBBBBBBB;  // ebx
 439         *--stack = 0xD1D1D1D1;  // edi
 440         *--stack = 0x54545454;  // esp - NOT POPED
 441         *--stack = 0x51515151;  // esi
 442         *--stack = 0xB4B4B4B4;  // ebp
 443         //Individual PUSHs
 444         *--stack = ss;  // ds
 445         *--stack = ss;  // es
 446         *--stack = ss;  // fs
 447         *--stack = ss;  // gs
 448
 449         __asm__ __volatile__ (
 450         "mov %%eax,%%esp;\n\t"  // Set stack pointer
 451         "pop %%gs;\n\t"
 452         "pop %%fs;\n\t"
 453         "pop %%es;\n\t"
 454         "pop %%ds;\n\t"
 455         "popa;\n\t"
 456         "iret;\n\t" : : "a" (stack));
 457         for(;;);
 458 }
 459
 460 /**
 461  * \fn int Proc_Demote(Uint *Err, int Dest, tRegs *Regs)
 462  * \brief Demotes a process to a lower permission level
 463  * \param Err   Pointer to user's errno
 464  * \param Dest  New Permission Level
 465  * \param Regs  Pointer to user's register structure
 466  */
 467 int Proc_Demote(Uint *Err, int Dest, tRegs *Regs)
 468 {
 469          int    cpl = Regs->cs & 3;
 470         // Sanity Check
 471         if(Dest > 3 || Dest < 0) {
 472                 *Err = -EINVAL;
 473                 return -1;
 474         }
 475
 476         // Permission Check
 477         if(cpl > Dest) {
 478                 *Err = -EACCES;
 479                 return -1;
 480         }
 481
 482         // Change the Segment Registers
 483         Regs->cs = (((Dest+1)<<4) | Dest) - 8;
 484         Regs->ss = ((Dest+1)<<4) | Dest;
 485         // Check if the GP Segs are GDT, then change them
 486         if(!(Regs->ds & 4))     Regs->ds = ((Dest+1)<<4) | Dest;
 487         if(!(Regs->es & 4))     Regs->es = ((Dest+1)<<4) | Dest;
 488         if(!(Regs->fs & 4))     Regs->fs = ((Dest+1)<<4) | Dest;
 489         if(!(Regs->gs & 4))     Regs->gs = ((Dest+1)<<4) | Dest;
 490
 491         return 0;
 492 }
 493
 494 /**
 495  * \fn void Proc_Scheduler(int CPU)
 496  * \brief Swap current thread and clears dead threads
 497  */
 498 void Proc_Scheduler(int CPU)
 499 {
 500         Uint    esp, ebp, eip;
 501         tThread *thread;
 502
 503         // If the spinlock is set, let it complete
 504         if(giThreadListLock)    return;
 505
 506         // Clear Delete Queue
 507         while(gDeleteThreads)
 508         {
 509                 thread = gDeleteThreads->Next;
 510                 if(gDeleteThreads->IsLocked) {  // Only free if structure is unused
 511                         gDeleteThreads->Status = THREAD_STAT_NULL;
 512                         free( gDeleteThreads );
 513                 }
 514                 gDeleteThreads = thread;
 515         }
 516
 517         // Check if there is any tasks running
 518         if(giNumActiveThreads == 0) {
 519                 Log("No Active threads, sleeping");
 520                 __asm__ __volatile__ ("hlt");
 521                 return;
 522         }
 523
 524         // Reduce remaining quantum and continue timeslice if non-zero
 525         if(gCurrentThread->Remaining--) return;
 526         // Reset quantum for next call
 527         gCurrentThread->Remaining = gCurrentThread->Quantum;
 528
 529         // Get machine state
 530         __asm__ __volatile__ ("mov %%esp, %0":"=r"(esp));
 531         __asm__ __volatile__ ("mov %%ebp, %0":"=r"(ebp));
 532         eip = GetEIP();
 533         if(eip == SWITCH_MAGIC) return; // Check if a switch happened
 534
 535         // Save machine state
 536         gCurrentThread->SavedState.ESP = esp;
 537         gCurrentThread->SavedState.EBP = ebp;
 538         gCurrentThread->SavedState.EIP = eip;
 539
 540         // Get next thread
 541         thread = Threads_GetNextToRun(CPU);
 542
 543         // Error Check
 544         if(thread == NULL) {
 545                 Warning("Hmm... Threads_GetNextToRun returned NULL, I don't think this should happen.\n");
 546                 return;
 547         }
 548
 549         #if DEBUG_TRACE_SWITCH
 550         Log("Switching to task %i, CR3 = 0x%x, EIP = %p",
 551                 thread->TID,
 552                 thread->MemState.CR3,
 553                 thread->SavedState.EIP
 554                 );
 555         #endif
 556
 557         // Set current thread
 558         gCurrentThread = thread;
 559
 560         // Update Kernel Stack pointer
 561         gTSSs[CPU].ESP0 = thread->KernelStack;
 562
 563         // Set address space
 564         if( gCurrentThread->MemState.CR3 != 0 )
 565                 __asm__ __volatile__ ("mov %0, %%cr3"::"a"(gCurrentThread->MemState.CR3));
 566         // Switch threads
 567         __asm__ __volatile__ (
 568                 "mov %1, %%esp\n\t"     // Restore ESP
 569                 "mov %2, %%ebp\n\t"     // and EBP
 570                 "jmp *%3" : :   // And return to where we saved state (Proc_Clone or Proc_Scheduler)
 571                 "a"(SWITCH_MAGIC), "b"(gCurrentThread->SavedState.ESP),
 572                 "d"(gCurrentThread->SavedState.EBP), "c"(gCurrentThread->SavedState.EIP)
 573                 );
 574         for(;;);        // Shouldn't reach here
 575 }
 576
 577 // === EXPORTS ===
 578 EXPORT(Proc_SpawnWorker);