block: move policy from disk to part0
[linux-2.6.git] / block / genhd.c
1 /*
2  *  gendisk handling
3  */
4
5 #include <linux/module.h>
6 #include <linux/fs.h>
7 #include <linux/genhd.h>
8 #include <linux/kdev_t.h>
9 #include <linux/kernel.h>
10 #include <linux/blkdev.h>
11 #include <linux/init.h>
12 #include <linux/spinlock.h>
13 #include <linux/seq_file.h>
14 #include <linux/slab.h>
15 #include <linux/kmod.h>
16 #include <linux/kobj_map.h>
17 #include <linux/buffer_head.h>
18 #include <linux/mutex.h>
19 #include <linux/idr.h>
20
21 #include "blk.h"
22
23 static DEFINE_MUTEX(block_class_lock);
24 #ifndef CONFIG_SYSFS_DEPRECATED
25 struct kobject *block_depr;
26 #endif
27
28 /* for extended dynamic devt allocation, currently only one major is used */
29 #define MAX_EXT_DEVT            (1 << MINORBITS)
30
31 /* For extended devt allocation.  ext_devt_mutex prevents look up
32  * results from going away underneath its user.
33  */
34 static DEFINE_MUTEX(ext_devt_mutex);
35 static DEFINE_IDR(ext_devt_idr);
36
37 static struct device_type disk_type;
38
39 /**
40  * disk_get_part - get partition
41  * @disk: disk to look partition from
42  * @partno: partition number
43  *
44  * Look for partition @partno from @disk.  If found, increment
45  * reference count and return it.
46  *
47  * CONTEXT:
48  * Don't care.
49  *
50  * RETURNS:
51  * Pointer to the found partition on success, NULL if not found.
52  */
53 struct hd_struct *disk_get_part(struct gendisk *disk, int partno)
54 {
55         struct hd_struct *part;
56
57         if (unlikely(partno < 0 || partno >= disk_max_parts(disk)))
58                 return NULL;
59         rcu_read_lock();
60         part = rcu_dereference(disk->__part[partno]);
61         if (part)
62                 get_device(part_to_dev(part));
63         rcu_read_unlock();
64
65         return part;
66 }
67 EXPORT_SYMBOL_GPL(disk_get_part);
68
69 /**
70  * disk_part_iter_init - initialize partition iterator
71  * @piter: iterator to initialize
72  * @disk: disk to iterate over
73  * @flags: DISK_PITER_* flags
74  *
75  * Initialize @piter so that it iterates over partitions of @disk.
76  *
77  * CONTEXT:
78  * Don't care.
79  */
80 void disk_part_iter_init(struct disk_part_iter *piter, struct gendisk *disk,
81                           unsigned int flags)
82 {
83         piter->disk = disk;
84         piter->part = NULL;
85
86         if (flags & DISK_PITER_REVERSE)
87                 piter->idx = disk_max_parts(piter->disk) - 1;
88         else if (flags & DISK_PITER_INCL_PART0)
89                 piter->idx = 0;
90         else
91                 piter->idx = 1;
92
93         piter->flags = flags;
94 }
95 EXPORT_SYMBOL_GPL(disk_part_iter_init);
96
97 /**
98  * disk_part_iter_next - proceed iterator to the next partition and return it
99  * @piter: iterator of interest
100  *
101  * Proceed @piter to the next partition and return it.
102  *
103  * CONTEXT:
104  * Don't care.
105  */
106 struct hd_struct *disk_part_iter_next(struct disk_part_iter *piter)
107 {
108         int inc, end;
109
110         /* put the last partition */
111         disk_put_part(piter->part);
112         piter->part = NULL;
113
114         rcu_read_lock();
115
116         /* determine iteration parameters */
117         if (piter->flags & DISK_PITER_REVERSE) {
118                 inc = -1;
119                 if (piter->flags & DISK_PITER_INCL_PART0)
120                         end = -1;
121                 else
122                         end = 0;
123         } else {
124                 inc = 1;
125                 end = disk_max_parts(piter->disk);
126         }
127
128         /* iterate to the next partition */
129         for (; piter->idx != end; piter->idx += inc) {
130                 struct hd_struct *part;
131
132                 part = rcu_dereference(piter->disk->__part[piter->idx]);
133                 if (!part)
134                         continue;
135                 if (!(piter->flags & DISK_PITER_INCL_EMPTY) && !part->nr_sects)
136                         continue;
137
138                 get_device(part_to_dev(part));
139                 piter->part = part;
140                 piter->idx += inc;
141                 break;
142         }
143
144         rcu_read_unlock();
145
146         return piter->part;
147 }
148 EXPORT_SYMBOL_GPL(disk_part_iter_next);
149
150 /**
151  * disk_part_iter_exit - finish up partition iteration
152  * @piter: iter of interest
153  *
154  * Called when iteration is over.  Cleans up @piter.
155  *
156  * CONTEXT:
157  * Don't care.
158  */
159 void disk_part_iter_exit(struct disk_part_iter *piter)
160 {
161         disk_put_part(piter->part);
162         piter->part = NULL;
163 }
164 EXPORT_SYMBOL_GPL(disk_part_iter_exit);
165
166 /**
167  * disk_map_sector_rcu - map sector to partition
168  * @disk: gendisk of interest
169  * @sector: sector to map
170  *
171  * Find out which partition @sector maps to on @disk.  This is
172  * primarily used for stats accounting.
173  *
174  * CONTEXT:
175  * RCU read locked.  The returned partition pointer is valid only
176  * while preemption is disabled.
177  *
178  * RETURNS:
179  * Found partition on success, NULL if there's no matching partition.
180  */
181 struct hd_struct *disk_map_sector_rcu(struct gendisk *disk, sector_t sector)
182 {
183         int i;
184
185         for (i = 1; i < disk_max_parts(disk); i++) {
186                 struct hd_struct *part = rcu_dereference(disk->__part[i]);
187
188                 if (part && part->start_sect <= sector &&
189                     sector < part->start_sect + part->nr_sects)
190                         return part;
191         }
192         return NULL;
193 }
194 EXPORT_SYMBOL_GPL(disk_map_sector_rcu);
195
196 /*
197  * Can be deleted altogether. Later.
198  *
199  */
200 static struct blk_major_name {
201         struct blk_major_name *next;
202         int major;
203         char name[16];
204 } *major_names[BLKDEV_MAJOR_HASH_SIZE];
205
206 /* index in the above - for now: assume no multimajor ranges */
207 static inline int major_to_index(int major)
208 {
209         return major % BLKDEV_MAJOR_HASH_SIZE;
210 }
211
212 #ifdef CONFIG_PROC_FS
213 void blkdev_show(struct seq_file *seqf, off_t offset)
214 {
215         struct blk_major_name *dp;
216
217         if (offset < BLKDEV_MAJOR_HASH_SIZE) {
218                 mutex_lock(&block_class_lock);
219                 for (dp = major_names[offset]; dp; dp = dp->next)
220                         seq_printf(seqf, "%3d %s\n", dp->major, dp->name);
221                 mutex_unlock(&block_class_lock);
222         }
223 }
224 #endif /* CONFIG_PROC_FS */
225
226 int register_blkdev(unsigned int major, const char *name)
227 {
228         struct blk_major_name **n, *p;
229         int index, ret = 0;
230
231         mutex_lock(&block_class_lock);
232
233         /* temporary */
234         if (major == 0) {
235                 for (index = ARRAY_SIZE(major_names)-1; index > 0; index--) {
236                         if (major_names[index] == NULL)
237                                 break;
238                 }
239
240                 if (index == 0) {
241                         printk("register_blkdev: failed to get major for %s\n",
242                                name);
243                         ret = -EBUSY;
244                         goto out;
245                 }
246                 major = index;
247                 ret = major;
248         }
249
250         p = kmalloc(sizeof(struct blk_major_name), GFP_KERNEL);
251         if (p == NULL) {
252                 ret = -ENOMEM;
253                 goto out;
254         }
255
256         p->major = major;
257         strlcpy(p->name, name, sizeof(p->name));
258         p->next = NULL;
259         index = major_to_index(major);
260
261         for (n = &major_names[index]; *n; n = &(*n)->next) {
262                 if ((*n)->major == major)
263                         break;
264         }
265         if (!*n)
266                 *n = p;
267         else
268                 ret = -EBUSY;
269
270         if (ret < 0) {
271                 printk("register_blkdev: cannot get major %d for %s\n",
272                        major, name);
273                 kfree(p);
274         }
275 out:
276         mutex_unlock(&block_class_lock);
277         return ret;
278 }
279
280 EXPORT_SYMBOL(register_blkdev);
281
282 void unregister_blkdev(unsigned int major, const char *name)
283 {
284         struct blk_major_name **n;
285         struct blk_major_name *p = NULL;
286         int index = major_to_index(major);
287
288         mutex_lock(&block_class_lock);
289         for (n = &major_names[index]; *n; n = &(*n)->next)
290                 if ((*n)->major == major)
291                         break;
292         if (!*n || strcmp((*n)->name, name)) {
293                 WARN_ON(1);
294         } else {
295                 p = *n;
296                 *n = p->next;
297         }
298         mutex_unlock(&block_class_lock);
299         kfree(p);
300 }
301
302 EXPORT_SYMBOL(unregister_blkdev);
303
304 static struct kobj_map *bdev_map;
305
306 /**
307  * blk_mangle_minor - scatter minor numbers apart
308  * @minor: minor number to mangle
309  *
310  * Scatter consecutively allocated @minor number apart if MANGLE_DEVT
311  * is enabled.  Mangling twice gives the original value.
312  *
313  * RETURNS:
314  * Mangled value.
315  *
316  * CONTEXT:
317  * Don't care.
318  */
319 static int blk_mangle_minor(int minor)
320 {
321 #ifdef CONFIG_DEBUG_BLOCK_EXT_DEVT
322         int i;
323
324         for (i = 0; i < MINORBITS / 2; i++) {
325                 int low = minor & (1 << i);
326                 int high = minor & (1 << (MINORBITS - 1 - i));
327                 int distance = MINORBITS - 1 - 2 * i;
328
329                 minor ^= low | high;    /* clear both bits */
330                 low <<= distance;       /* swap the positions */
331                 high >>= distance;
332                 minor |= low | high;    /* and set */
333         }
334 #endif
335         return minor;
336 }
337
338 /**
339  * blk_alloc_devt - allocate a dev_t for a partition
340  * @part: partition to allocate dev_t for
341  * @gfp_mask: memory allocation flag
342  * @devt: out parameter for resulting dev_t
343  *
344  * Allocate a dev_t for block device.
345  *
346  * RETURNS:
347  * 0 on success, allocated dev_t is returned in *@devt.  -errno on
348  * failure.
349  *
350  * CONTEXT:
351  * Might sleep.
352  */
353 int blk_alloc_devt(struct hd_struct *part, dev_t *devt)
354 {
355         struct gendisk *disk = part_to_disk(part);
356         int idx, rc;
357
358         /* in consecutive minor range? */
359         if (part->partno < disk->minors) {
360                 *devt = MKDEV(disk->major, disk->first_minor + part->partno);
361                 return 0;
362         }
363
364         /* allocate ext devt */
365         do {
366                 if (!idr_pre_get(&ext_devt_idr, GFP_KERNEL))
367                         return -ENOMEM;
368                 rc = idr_get_new(&ext_devt_idr, part, &idx);
369         } while (rc == -EAGAIN);
370
371         if (rc)
372                 return rc;
373
374         if (idx > MAX_EXT_DEVT) {
375                 idr_remove(&ext_devt_idr, idx);
376                 return -EBUSY;
377         }
378
379         *devt = MKDEV(BLOCK_EXT_MAJOR, blk_mangle_minor(idx));
380         return 0;
381 }
382
383 /**
384  * blk_free_devt - free a dev_t
385  * @devt: dev_t to free
386  *
387  * Free @devt which was allocated using blk_alloc_devt().
388  *
389  * CONTEXT:
390  * Might sleep.
391  */
392 void blk_free_devt(dev_t devt)
393 {
394         might_sleep();
395
396         if (devt == MKDEV(0, 0))
397                 return;
398
399         if (MAJOR(devt) == BLOCK_EXT_MAJOR) {
400                 mutex_lock(&ext_devt_mutex);
401                 idr_remove(&ext_devt_idr, blk_mangle_minor(MINOR(devt)));
402                 mutex_unlock(&ext_devt_mutex);
403         }
404 }
405
406 static char *bdevt_str(dev_t devt, char *buf)
407 {
408         if (MAJOR(devt) <= 0xff && MINOR(devt) <= 0xff) {
409                 char tbuf[BDEVT_SIZE];
410                 snprintf(tbuf, BDEVT_SIZE, "%02x%02x", MAJOR(devt), MINOR(devt));
411                 snprintf(buf, BDEVT_SIZE, "%-9s", tbuf);
412         } else
413                 snprintf(buf, BDEVT_SIZE, "%03x:%05x", MAJOR(devt), MINOR(devt));
414
415         return buf;
416 }
417
418 /*
419  * Register device numbers dev..(dev+range-1)
420  * range must be nonzero
421  * The hash chain is sorted on range, so that subranges can override.
422  */
423 void blk_register_region(dev_t devt, unsigned long range, struct module *module,
424                          struct kobject *(*probe)(dev_t, int *, void *),
425                          int (*lock)(dev_t, void *), void *data)
426 {
427         kobj_map(bdev_map, devt, range, module, probe, lock, data);
428 }
429
430 EXPORT_SYMBOL(blk_register_region);
431
432 void blk_unregister_region(dev_t devt, unsigned long range)
433 {
434         kobj_unmap(bdev_map, devt, range);
435 }
436
437 EXPORT_SYMBOL(blk_unregister_region);
438
439 static struct kobject *exact_match(dev_t devt, int *partno, void *data)
440 {
441         struct gendisk *p = data;
442
443         return &disk_to_dev(p)->kobj;
444 }
445
446 static int exact_lock(dev_t devt, void *data)
447 {
448         struct gendisk *p = data;
449
450         if (!get_disk(p))
451                 return -1;
452         return 0;
453 }
454
455 /**
456  * add_disk - add partitioning information to kernel list
457  * @disk: per-device partitioning information
458  *
459  * This function registers the partitioning information in @disk
460  * with the kernel.
461  */
462 void add_disk(struct gendisk *disk)
463 {
464         struct backing_dev_info *bdi;
465         int retval;
466
467         disk->flags |= GENHD_FL_UP;
468         disk_to_dev(disk)->devt = MKDEV(disk->major, disk->first_minor);
469         blk_register_region(disk_devt(disk), disk->minors, NULL,
470                             exact_match, exact_lock, disk);
471         register_disk(disk);
472         blk_register_queue(disk);
473
474         bdi = &disk->queue->backing_dev_info;
475         bdi_register_dev(bdi, disk_devt(disk));
476         retval = sysfs_create_link(&disk_to_dev(disk)->kobj, &bdi->dev->kobj,
477                                    "bdi");
478         WARN_ON(retval);
479 }
480
481 EXPORT_SYMBOL(add_disk);
482 EXPORT_SYMBOL(del_gendisk);     /* in partitions/check.c */
483
484 void unlink_gendisk(struct gendisk *disk)
485 {
486         sysfs_remove_link(&disk_to_dev(disk)->kobj, "bdi");
487         bdi_unregister(&disk->queue->backing_dev_info);
488         blk_unregister_queue(disk);
489         blk_unregister_region(disk_devt(disk), disk->minors);
490 }
491
492 /**
493  * get_gendisk - get partitioning information for a given device
494  * @devt: device to get partitioning information for
495  * @part: returned partition index
496  *
497  * This function gets the structure containing partitioning
498  * information for the given device @devt.
499  */
500 struct gendisk *get_gendisk(dev_t devt, int *partno)
501 {
502         struct gendisk *disk = NULL;
503
504         if (MAJOR(devt) != BLOCK_EXT_MAJOR) {
505                 struct kobject *kobj;
506
507                 kobj = kobj_lookup(bdev_map, devt, partno);
508                 if (kobj)
509                         disk = dev_to_disk(kobj_to_dev(kobj));
510         } else {
511                 struct hd_struct *part;
512
513                 mutex_lock(&ext_devt_mutex);
514                 part = idr_find(&ext_devt_idr, blk_mangle_minor(MINOR(devt)));
515                 if (part && get_disk(part_to_disk(part))) {
516                         *partno = part->partno;
517                         disk = part_to_disk(part);
518                 }
519                 mutex_unlock(&ext_devt_mutex);
520         }
521
522         return disk;
523 }
524
525 /**
526  * bdget_disk - do bdget() by gendisk and partition number
527  * @disk: gendisk of interest
528  * @partno: partition number
529  *
530  * Find partition @partno from @disk, do bdget() on it.
531  *
532  * CONTEXT:
533  * Don't care.
534  *
535  * RETURNS:
536  * Resulting block_device on success, NULL on failure.
537  */
538 extern struct block_device *bdget_disk(struct gendisk *disk, int partno)
539 {
540         struct hd_struct *part;
541         struct block_device *bdev = NULL;
542
543         part = disk_get_part(disk, partno);
544         if (part && (part->nr_sects || partno == 0))
545                 bdev = bdget(part_devt(part));
546         disk_put_part(part);
547
548         return bdev;
549 }
550 EXPORT_SYMBOL(bdget_disk);
551
552 /*
553  * print a full list of all partitions - intended for places where the root
554  * filesystem can't be mounted and thus to give the victim some idea of what
555  * went wrong
556  */
557 void __init printk_all_partitions(void)
558 {
559         struct class_dev_iter iter;
560         struct device *dev;
561
562         class_dev_iter_init(&iter, &block_class, NULL, &disk_type);
563         while ((dev = class_dev_iter_next(&iter))) {
564                 struct gendisk *disk = dev_to_disk(dev);
565                 struct disk_part_iter piter;
566                 struct hd_struct *part;
567                 char name_buf[BDEVNAME_SIZE];
568                 char devt_buf[BDEVT_SIZE];
569
570                 /*
571                  * Don't show empty devices or things that have been
572                  * surpressed
573                  */
574                 if (get_capacity(disk) == 0 ||
575                     (disk->flags & GENHD_FL_SUPPRESS_PARTITION_INFO))
576                         continue;
577
578                 /*
579                  * Note, unlike /proc/partitions, I am showing the
580                  * numbers in hex - the same format as the root=
581                  * option takes.
582                  */
583                 printk("%s %10llu %s",
584                        bdevt_str(disk_devt(disk), devt_buf),
585                        (unsigned long long)get_capacity(disk) >> 1,
586                        disk_name(disk, 0, name_buf));
587                 if (disk->driverfs_dev != NULL &&
588                     disk->driverfs_dev->driver != NULL)
589                         printk(" driver: %s\n",
590                                disk->driverfs_dev->driver->name);
591                 else
592                         printk(" (driver?)\n");
593
594                 /* now show the partitions */
595                 disk_part_iter_init(&piter, disk, 0);
596                 while ((part = disk_part_iter_next(&piter)))
597                         printk("  %s %10llu %s\n",
598                                bdevt_str(part_devt(part), devt_buf),
599                                (unsigned long long)part->nr_sects >> 1,
600                                disk_name(disk, part->partno, name_buf));
601                 disk_part_iter_exit(&piter);
602         }
603         class_dev_iter_exit(&iter);
604 }
605
606 #ifdef CONFIG_PROC_FS
607 /* iterator */
608 static void *disk_seqf_start(struct seq_file *seqf, loff_t *pos)
609 {
610         loff_t skip = *pos;
611         struct class_dev_iter *iter;
612         struct device *dev;
613
614         iter = kmalloc(GFP_KERNEL, sizeof(*iter));
615         if (!iter)
616                 return ERR_PTR(-ENOMEM);
617
618         seqf->private = iter;
619         class_dev_iter_init(iter, &block_class, NULL, &disk_type);
620         do {
621                 dev = class_dev_iter_next(iter);
622                 if (!dev)
623                         return NULL;
624         } while (skip--);
625
626         return dev_to_disk(dev);
627 }
628
629 static void *disk_seqf_next(struct seq_file *seqf, void *v, loff_t *pos)
630 {
631         struct device *dev;
632
633         (*pos)++;
634         dev = class_dev_iter_next(seqf->private);
635         if (dev)
636                 return dev_to_disk(dev);
637
638         return NULL;
639 }
640
641 static void disk_seqf_stop(struct seq_file *seqf, void *v)
642 {
643         struct class_dev_iter *iter = seqf->private;
644
645         /* stop is called even after start failed :-( */
646         if (iter) {
647                 class_dev_iter_exit(iter);
648                 kfree(iter);
649         }
650 }
651
652 static void *show_partition_start(struct seq_file *seqf, loff_t *pos)
653 {
654         static void *p;
655
656         p = disk_seqf_start(seqf, pos);
657         if (!IS_ERR(p) && p)
658                 seq_puts(seqf, "major minor  #blocks  name\n\n");
659         return p;
660 }
661
662 static int show_partition(struct seq_file *seqf, void *v)
663 {
664         struct gendisk *sgp = v;
665         struct disk_part_iter piter;
666         struct hd_struct *part;
667         char buf[BDEVNAME_SIZE];
668
669         /* Don't show non-partitionable removeable devices or empty devices */
670         if (!get_capacity(sgp) || (!disk_partitionable(sgp) &&
671                                    (sgp->flags & GENHD_FL_REMOVABLE)))
672                 return 0;
673         if (sgp->flags & GENHD_FL_SUPPRESS_PARTITION_INFO)
674                 return 0;
675
676         /* show the full disk and all non-0 size partitions of it */
677         seq_printf(seqf, "%4d  %7d %10llu %s\n",
678                 MAJOR(disk_devt(sgp)), MINOR(disk_devt(sgp)),
679                 (unsigned long long)get_capacity(sgp) >> 1,
680                 disk_name(sgp, 0, buf));
681
682         disk_part_iter_init(&piter, sgp, 0);
683         while ((part = disk_part_iter_next(&piter)))
684                 seq_printf(seqf, "%4d  %7d %10llu %s\n",
685                            MAJOR(part_devt(part)), MINOR(part_devt(part)),
686                            (unsigned long long)part->nr_sects >> 1,
687                            disk_name(sgp, part->partno, buf));
688         disk_part_iter_exit(&piter);
689
690         return 0;
691 }
692
693 const struct seq_operations partitions_op = {
694         .start  = show_partition_start,
695         .next   = disk_seqf_next,
696         .stop   = disk_seqf_stop,
697         .show   = show_partition
698 };
699 #endif
700
701
702 static struct kobject *base_probe(dev_t devt, int *partno, void *data)
703 {
704         if (request_module("block-major-%d-%d", MAJOR(devt), MINOR(devt)) > 0)
705                 /* Make old-style 2.4 aliases work */
706                 request_module("block-major-%d", MAJOR(devt));
707         return NULL;
708 }
709
710 static int __init genhd_device_init(void)
711 {
712         int error;
713
714         block_class.dev_kobj = sysfs_dev_block_kobj;
715         error = class_register(&block_class);
716         if (unlikely(error))
717                 return error;
718         bdev_map = kobj_map_init(base_probe, &block_class_lock);
719         blk_dev_init();
720
721 #ifndef CONFIG_SYSFS_DEPRECATED
722         /* create top-level block dir */
723         block_depr = kobject_create_and_add("block", NULL);
724 #endif
725         return 0;
726 }
727
728 subsys_initcall(genhd_device_init);
729
730 static ssize_t disk_range_show(struct device *dev,
731                                struct device_attribute *attr, char *buf)
732 {
733         struct gendisk *disk = dev_to_disk(dev);
734
735         return sprintf(buf, "%d\n", disk->minors);
736 }
737
738 static ssize_t disk_ext_range_show(struct device *dev,
739                                    struct device_attribute *attr, char *buf)
740 {
741         struct gendisk *disk = dev_to_disk(dev);
742
743         return sprintf(buf, "%d\n", disk_max_parts(disk));
744 }
745
746 static ssize_t disk_removable_show(struct device *dev,
747                                    struct device_attribute *attr, char *buf)
748 {
749         struct gendisk *disk = dev_to_disk(dev);
750
751         return sprintf(buf, "%d\n",
752                        (disk->flags & GENHD_FL_REMOVABLE ? 1 : 0));
753 }
754
755 static ssize_t disk_ro_show(struct device *dev,
756                                    struct device_attribute *attr, char *buf)
757 {
758         struct gendisk *disk = dev_to_disk(dev);
759
760         return sprintf(buf, "%d\n", get_disk_ro(disk) ? 1 : 0);
761 }
762
763 static ssize_t disk_capability_show(struct device *dev,
764                                     struct device_attribute *attr, char *buf)
765 {
766         struct gendisk *disk = dev_to_disk(dev);
767
768         return sprintf(buf, "%x\n", disk->flags);
769 }
770
771 static ssize_t disk_stat_show(struct device *dev,
772                               struct device_attribute *attr, char *buf)
773 {
774         struct gendisk *disk = dev_to_disk(dev);
775         int cpu;
776
777         cpu = disk_stat_lock();
778         disk_round_stats(cpu, disk);
779         disk_stat_unlock();
780         return sprintf(buf,
781                 "%8lu %8lu %8llu %8u "
782                 "%8lu %8lu %8llu %8u "
783                 "%8u %8u %8u"
784                 "\n",
785                 disk_stat_read(disk, ios[READ]),
786                 disk_stat_read(disk, merges[READ]),
787                 (unsigned long long)disk_stat_read(disk, sectors[READ]),
788                 jiffies_to_msecs(disk_stat_read(disk, ticks[READ])),
789                 disk_stat_read(disk, ios[WRITE]),
790                 disk_stat_read(disk, merges[WRITE]),
791                 (unsigned long long)disk_stat_read(disk, sectors[WRITE]),
792                 jiffies_to_msecs(disk_stat_read(disk, ticks[WRITE])),
793                 disk->in_flight,
794                 jiffies_to_msecs(disk_stat_read(disk, io_ticks)),
795                 jiffies_to_msecs(disk_stat_read(disk, time_in_queue)));
796 }
797
798 #ifdef CONFIG_FAIL_MAKE_REQUEST
799 static ssize_t disk_fail_show(struct device *dev,
800                               struct device_attribute *attr, char *buf)
801 {
802         struct gendisk *disk = dev_to_disk(dev);
803
804         return sprintf(buf, "%d\n", disk->flags & GENHD_FL_FAIL ? 1 : 0);
805 }
806
807 static ssize_t disk_fail_store(struct device *dev,
808                                struct device_attribute *attr,
809                                const char *buf, size_t count)
810 {
811         struct gendisk *disk = dev_to_disk(dev);
812         int i;
813
814         if (count > 0 && sscanf(buf, "%d", &i) > 0) {
815                 if (i == 0)
816                         disk->flags &= ~GENHD_FL_FAIL;
817                 else
818                         disk->flags |= GENHD_FL_FAIL;
819         }
820
821         return count;
822 }
823
824 #endif
825
826 static DEVICE_ATTR(range, S_IRUGO, disk_range_show, NULL);
827 static DEVICE_ATTR(ext_range, S_IRUGO, disk_ext_range_show, NULL);
828 static DEVICE_ATTR(removable, S_IRUGO, disk_removable_show, NULL);
829 static DEVICE_ATTR(ro, S_IRUGO, disk_ro_show, NULL);
830 static DEVICE_ATTR(size, S_IRUGO, part_size_show, NULL);
831 static DEVICE_ATTR(capability, S_IRUGO, disk_capability_show, NULL);
832 static DEVICE_ATTR(stat, S_IRUGO, disk_stat_show, NULL);
833 #ifdef CONFIG_FAIL_MAKE_REQUEST
834 static struct device_attribute dev_attr_fail =
835         __ATTR(make-it-fail, S_IRUGO|S_IWUSR, disk_fail_show, disk_fail_store);
836 #endif
837
838 static struct attribute *disk_attrs[] = {
839         &dev_attr_range.attr,
840         &dev_attr_ext_range.attr,
841         &dev_attr_removable.attr,
842         &dev_attr_ro.attr,
843         &dev_attr_size.attr,
844         &dev_attr_capability.attr,
845         &dev_attr_stat.attr,
846 #ifdef CONFIG_FAIL_MAKE_REQUEST
847         &dev_attr_fail.attr,
848 #endif
849         NULL
850 };
851
852 static struct attribute_group disk_attr_group = {
853         .attrs = disk_attrs,
854 };
855
856 static struct attribute_group *disk_attr_groups[] = {
857         &disk_attr_group,
858         NULL
859 };
860
861 static void disk_release(struct device *dev)
862 {
863         struct gendisk *disk = dev_to_disk(dev);
864
865         kfree(disk->random);
866         kfree(disk->__part);
867         free_disk_stats(disk);
868         kfree(disk);
869 }
870 struct class block_class = {
871         .name           = "block",
872 };
873
874 static struct device_type disk_type = {
875         .name           = "disk",
876         .groups         = disk_attr_groups,
877         .release        = disk_release,
878 };
879
880 #ifdef CONFIG_PROC_FS
881 /*
882  * aggregate disk stat collector.  Uses the same stats that the sysfs
883  * entries do, above, but makes them available through one seq_file.
884  *
885  * The output looks suspiciously like /proc/partitions with a bunch of
886  * extra fields.
887  */
888 static int diskstats_show(struct seq_file *seqf, void *v)
889 {
890         struct gendisk *gp = v;
891         struct disk_part_iter piter;
892         struct hd_struct *hd;
893         char buf[BDEVNAME_SIZE];
894         int cpu;
895
896         /*
897         if (&disk_to_dev(gp)->kobj.entry == block_class.devices.next)
898                 seq_puts(seqf,  "major minor name"
899                                 "     rio rmerge rsect ruse wio wmerge "
900                                 "wsect wuse running use aveq"
901                                 "\n\n");
902         */
903  
904         cpu = disk_stat_lock();
905         disk_round_stats(cpu, gp);
906         disk_stat_unlock();
907         seq_printf(seqf, "%4d %7d %s %lu %lu %llu %u %lu %lu %llu %u %u %u %u\n",
908                 MAJOR(disk_devt(gp)), MINOR(disk_devt(gp)),
909                 disk_name(gp, 0, buf),
910                 disk_stat_read(gp, ios[0]), disk_stat_read(gp, merges[0]),
911                 (unsigned long long)disk_stat_read(gp, sectors[0]),
912                 jiffies_to_msecs(disk_stat_read(gp, ticks[0])),
913                 disk_stat_read(gp, ios[1]), disk_stat_read(gp, merges[1]),
914                 (unsigned long long)disk_stat_read(gp, sectors[1]),
915                 jiffies_to_msecs(disk_stat_read(gp, ticks[1])),
916                 gp->in_flight,
917                 jiffies_to_msecs(disk_stat_read(gp, io_ticks)),
918                 jiffies_to_msecs(disk_stat_read(gp, time_in_queue)));
919
920         /* now show all non-0 size partitions of it */
921         disk_part_iter_init(&piter, gp, 0);
922         while ((hd = disk_part_iter_next(&piter))) {
923                 cpu = disk_stat_lock();
924                 part_round_stats(cpu, hd);
925                 disk_stat_unlock();
926                 seq_printf(seqf, "%4d %7d %s %lu %lu %llu "
927                            "%u %lu %lu %llu %u %u %u %u\n",
928                            MAJOR(part_devt(hd)), MINOR(part_devt(hd)),
929                            disk_name(gp, hd->partno, buf),
930                            part_stat_read(hd, ios[0]),
931                            part_stat_read(hd, merges[0]),
932                            (unsigned long long)part_stat_read(hd, sectors[0]),
933                            jiffies_to_msecs(part_stat_read(hd, ticks[0])),
934                            part_stat_read(hd, ios[1]),
935                            part_stat_read(hd, merges[1]),
936                            (unsigned long long)part_stat_read(hd, sectors[1]),
937                            jiffies_to_msecs(part_stat_read(hd, ticks[1])),
938                            hd->in_flight,
939                            jiffies_to_msecs(part_stat_read(hd, io_ticks)),
940                            jiffies_to_msecs(part_stat_read(hd, time_in_queue))
941                         );
942         }
943         disk_part_iter_exit(&piter);
944  
945         return 0;
946 }
947
948 const struct seq_operations diskstats_op = {
949         .start  = disk_seqf_start,
950         .next   = disk_seqf_next,
951         .stop   = disk_seqf_stop,
952         .show   = diskstats_show
953 };
954 #endif /* CONFIG_PROC_FS */
955
956 static void media_change_notify_thread(struct work_struct *work)
957 {
958         struct gendisk *gd = container_of(work, struct gendisk, async_notify);
959         char event[] = "MEDIA_CHANGE=1";
960         char *envp[] = { event, NULL };
961
962         /*
963          * set enviroment vars to indicate which event this is for
964          * so that user space will know to go check the media status.
965          */
966         kobject_uevent_env(&disk_to_dev(gd)->kobj, KOBJ_CHANGE, envp);
967         put_device(gd->driverfs_dev);
968 }
969
970 #if 0
971 void genhd_media_change_notify(struct gendisk *disk)
972 {
973         get_device(disk->driverfs_dev);
974         schedule_work(&disk->async_notify);
975 }
976 EXPORT_SYMBOL_GPL(genhd_media_change_notify);
977 #endif  /*  0  */
978
979 dev_t blk_lookup_devt(const char *name, int partno)
980 {
981         dev_t devt = MKDEV(0, 0);
982         struct class_dev_iter iter;
983         struct device *dev;
984
985         class_dev_iter_init(&iter, &block_class, NULL, &disk_type);
986         while ((dev = class_dev_iter_next(&iter))) {
987                 struct gendisk *disk = dev_to_disk(dev);
988                 struct hd_struct *part;
989
990                 if (strcmp(dev->bus_id, name))
991                         continue;
992
993                 part = disk_get_part(disk, partno);
994                 if (part && (part->nr_sects || partno == 0)) {
995                         devt = part_devt(part);
996                         disk_put_part(part);
997                         break;
998                 }
999                 disk_put_part(part);
1000         }
1001         class_dev_iter_exit(&iter);
1002         return devt;
1003 }
1004 EXPORT_SYMBOL(blk_lookup_devt);
1005
1006 struct gendisk *alloc_disk(int minors)
1007 {
1008         return alloc_disk_node(minors, -1);
1009 }
1010
1011 struct gendisk *alloc_disk_node(int minors, int node_id)
1012 {
1013         return alloc_disk_ext_node(minors, 0, node_id);
1014 }
1015
1016 struct gendisk *alloc_disk_ext(int minors, int ext_minors)
1017 {
1018         return alloc_disk_ext_node(minors, ext_minors, -1);
1019 }
1020
1021 struct gendisk *alloc_disk_ext_node(int minors, int ext_minors, int node_id)
1022 {
1023         struct gendisk *disk;
1024
1025         disk = kmalloc_node(sizeof(struct gendisk),
1026                                 GFP_KERNEL | __GFP_ZERO, node_id);
1027         if (disk) {
1028                 int tot_minors = minors + ext_minors;
1029                 int size = tot_minors * sizeof(struct hd_struct *);
1030
1031                 if (!init_disk_stats(disk)) {
1032                         kfree(disk);
1033                         return NULL;
1034                 }
1035
1036                 disk->__part = kmalloc_node(size, GFP_KERNEL | __GFP_ZERO,
1037                                             node_id);
1038                 if (!disk->__part) {
1039                         free_disk_stats(disk);
1040                         kfree(disk);
1041                         return NULL;
1042                 }
1043                 disk->__part[0] = &disk->part0;
1044
1045                 disk->minors = minors;
1046                 disk->ext_minors = ext_minors;
1047                 rand_initialize_disk(disk);
1048                 disk_to_dev(disk)->class = &block_class;
1049                 disk_to_dev(disk)->type = &disk_type;
1050                 device_initialize(disk_to_dev(disk));
1051                 INIT_WORK(&disk->async_notify,
1052                         media_change_notify_thread);
1053         }
1054         return disk;
1055 }
1056
1057 EXPORT_SYMBOL(alloc_disk);
1058 EXPORT_SYMBOL(alloc_disk_node);
1059 EXPORT_SYMBOL(alloc_disk_ext);
1060 EXPORT_SYMBOL(alloc_disk_ext_node);
1061
1062 struct kobject *get_disk(struct gendisk *disk)
1063 {
1064         struct module *owner;
1065         struct kobject *kobj;
1066
1067         if (!disk->fops)
1068                 return NULL;
1069         owner = disk->fops->owner;
1070         if (owner && !try_module_get(owner))
1071                 return NULL;
1072         kobj = kobject_get(&disk_to_dev(disk)->kobj);
1073         if (kobj == NULL) {
1074                 module_put(owner);
1075                 return NULL;
1076         }
1077         return kobj;
1078
1079 }
1080
1081 EXPORT_SYMBOL(get_disk);
1082
1083 void put_disk(struct gendisk *disk)
1084 {
1085         if (disk)
1086                 kobject_put(&disk_to_dev(disk)->kobj);
1087 }
1088
1089 EXPORT_SYMBOL(put_disk);
1090
1091 void set_device_ro(struct block_device *bdev, int flag)
1092 {
1093         bdev->bd_part->policy = flag;
1094 }
1095
1096 EXPORT_SYMBOL(set_device_ro);
1097
1098 void set_disk_ro(struct gendisk *disk, int flag)
1099 {
1100         struct disk_part_iter piter;
1101         struct hd_struct *part;
1102
1103         disk_part_iter_init(&piter, disk,
1104                             DISK_PITER_INCL_EMPTY | DISK_PITER_INCL_PART0);
1105         while ((part = disk_part_iter_next(&piter)))
1106                 part->policy = flag;
1107         disk_part_iter_exit(&piter);
1108 }
1109
1110 EXPORT_SYMBOL(set_disk_ro);
1111
1112 int bdev_read_only(struct block_device *bdev)
1113 {
1114         if (!bdev)
1115                 return 0;
1116         return bdev->bd_part->policy;
1117 }
1118
1119 EXPORT_SYMBOL(bdev_read_only);
1120
1121 int invalidate_partition(struct gendisk *disk, int partno)
1122 {
1123         int res = 0;
1124         struct block_device *bdev = bdget_disk(disk, partno);
1125         if (bdev) {
1126                 fsync_bdev(bdev);
1127                 res = __invalidate_device(bdev);
1128                 bdput(bdev);
1129         }
1130         return res;
1131 }
1132
1133 EXPORT_SYMBOL(invalidate_partition);